程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
Unsloth 深度拆解:当 LLM 微调学会「省显存」——2倍速+70%显存节省背后的 QLoRA 工程革命
编程
Unsloth 深度拆解:当 LLM 微调学会「省显存」——2倍速+70%显存节省背后的 QLoRA 工程革命
2026-07-15 17:47:08 +0800 CST
view 128
深度拆解Unsloth技术栈:QLoRA量化原理、4-bit NF4精度机制、Triton内核重写、8-bit Adam优化器、梯度检查点优化,以及从Notebook到Ollama/vLLM生产部署的完整工程路径,含完整代码实战
Unsloth
LLM微调
QLoRA
LoRA
4-bit量化
深度学习
模型训练
Unsloth实战:当QLoRA让27B模型在RTX 4090上跑起来——从Qwen3.5微调到Ollama部署的完整工程链
编程
Unsloth实战:当QLoRA让27B模型在RTX 4090上跑起来——从Qwen3.5微调到Ollama部署的完整工程链
2026-07-15 17:48:36 +0800 CST
view 124
深度拆解Unsloth技术栈:QLoRA量化原理、4-bit NF4精度机制、Triton内核重写、8-bit Adam优化器、梯度检查点优化,以及从Notebook到Ollama/vLLM生产部署的完整工程路径,含完整代码实战
Unsloth
LLM微调
QLoRA
LoRA
4-bit量化
深度学习
模型训练
ml-intern 深度实战:当 Hugging Face 造出一个永不抱怨的 ML 实习生——从 smolagents 框架到 ArXiv 自主研读的端到端完全指南(2026)
编程
ml-intern 深度实战:当 Hugging Face 造出一个永不抱怨的 ML 实习生——从 smolagents 框架到 ArXiv 自主研读的端到端完全指南(2026)
2026-06-08 20:22:55 +0800 CST
view 456
深入剖析 Hugging Face 2026年4月发布的 ml-intern 项目:基于 smolagents 框架的端到端 ML 研究自动化 Agent,支持 ArXiv 论文自主研读、HuggingFace 数据集智能检索、云端训练任务提交与自动迭代优化。
HuggingFace
ml-intern
AI Agent
smolagents
LoRA
QLoRA
机器学习
开源项目
SurrealDB 深度解析:Rust 打造的六合一多模型数据库如何用 Record Links + 向量检索 + ACID 事务让 AI Agent 的「记忆」不再碎片化——从 SurrealQL 语法到生产级知识图谱实战的完整指南
编程
SurrealDB 深度解析:Rust 打造的六合一多模型数据库如何用 Record Links + 向量检索 + ACID 事务让 AI Agent 的「记忆」不再碎片化——从 SurrealQL 语法到生产级知识图谱实战的完整指南
2026-07-07 03:41:54 +0800 CST
view 169
深度解析Rust编写的SurrealDB多模型数据库:六种数据模型(文档+图+关系+向量+时序+KV)统一到单一引擎,Record Links记录链接自动解引用、HNSW向量索引、ACID事务、实时订阅。从SurrealQL语法到AI Agent知识图谱生产实战,含Python/Go SDK完整代码示例与企业案例。
SurrealDB
多模型数据库
Rust
Record Links
向量检索
ACID
AI Agent
SurrealQL
知识图谱
开源
GraphQL.js v17 + Hive Router Demand Control:当 GraphQL 终于学会「算账」——从原生 TypeScript 重写到成本控制革命的完全指南(2026)
编程
GraphQL.js v17 + Hive Router Demand Control:当 GraphQL 终于学会「算账」——从原生 TypeScript 重写到成本控制革命的完全指南(2026)
2026-06-22 21:26:46 +0800 CST
view 202
2026年6月19日 GraphQL.js v17 发布,原生 TypeScript 重写、ESM 优先。同日 Hive Router 推出 Demand Control 功能,解决 GraphQL 查询成本逃逸问题。本文深度剖析技术原理、迁移指南与生产实践。
GraphQL
TypeScript
ESM
Hive Router
Demand Control
OpenAPI
API 架构四国大战 2026:REST、gRPC、GraphQL、tRPC —— 从协议原理到生产级选型的完整实战指南
编程
API 架构四国大战 2026:REST、gRPC、GraphQL、tRPC —— 从协议原理到生产级选型的完整实战指南
2026-06-25 22:45:20 +0800 CST
view 208
2026年API架构四强争霸:REST、gRPC、GraphQL、tRPC深度对比,从协议原理到代码实战,从性能压测到生产级选型。万字长文,附完整代码示例和选型决策矩阵。
REST
gRPC
GraphQL
tRPC
API设计
TypeScript
性能优化
微服务
chinese-poetry-api:40万首古诗词 API,Go高性能 REST+GraphQL双接口 + Docker一键部署
编程
chinese-poetry-api:40万首古诗词 API,Go高性能 REST+GraphQL双接口 + Docker一键部署
2026-07-22 07:39:47 +0800 CST
view 59
chinese-poetry-api(40万首古典诗词)Go高性能双接口:RESTful+GraphQL支持分页/筛选/自定义字段、简繁300ns切换、多维度精准检索(朝代/作者/体裁)、Docker一行命令部署(amd64/arm64)、内置IP限流+k6压测脚本(3000并发),私有化部署无第三方限制。
chinese-poetry-api
古诗词API
Go
GraphQL
RESTful
简繁转换
Docker
诗词数据库
GPL
私有化部署
后端
Unsloth 深度实战:从显存爆炸到 70% 压缩——本地大模型微调的工程化革命与生产级实践
编程
Unsloth 深度实战:从显存爆炸到 70% 压缩——本地大模型微调的工程化革命与生产级实践
2026-05-22 16:15:29 +0800 CST
view 727
Unsloth通过底层算子优化让大模型微调显存降低70%、速度提升2-5x,本文从原理到生产实战全方位拆解,含完整代码。
Unsloth
LoRA
QLoRA
大模型微调
本地训练
Graphene:一个无敌的 Python 库!
编程
Graphene:一个无敌的 Python 库!
2024-11-19 04:32:49 +0800 CST
view 1699
Graphene是一个强大的Python库,用于构建GraphQLAPI,简化WebAPI开发。它支持与Django和SQLAlchemy的集成,提供灵活的数据查询和强大的查询功能。通过简单的安装和配置,开发者可以快速定义GraphQL类型、创建查询和处理数据变更。Graphene适用于构建RESTAPI替代方案和后台管理系统,极大提高开发效率。
Python
GraphQL
Web开发
API
Django
Shopify GraphQL Cardinal 深度解析:广度优先执行引擎如何让大型列表查询提速 15 倍
编程
Shopify GraphQL Cardinal 深度解析:广度优先执行引擎如何让大型列表查询提速 15 倍
2026-05-10 19:53:54 +0800 CST
view 518
Shopify 开源 GraphQL Cardinal 广度优先执行引擎,在大型列表查询场景实现 15 倍性能提升和 90% 内存节省。深度解析执行机制、迁移策略与实战代码。
GraphQL
API设计
性能优化
Shopify
Ruby
GraphQL 深度实战:当「按需查询」重塑 API 设计——从原理到生产级完全指南(2026)
编程
GraphQL 深度实战:当「按需查询」重塑 API 设计——从原理到生产级完全指南(2026)
2026-06-05 14:38:57 +0800 CST
view 426
从RESTful痛点出发,深度讲解GraphQL类型系统、Resolver机制、DataLoader性能优化、Apollo Federation微服务架构,附完整Go + gqlgen生产级代码示例。
GraphQL
API设计
后端开发
Go语言
性能优化
微服务
Prometheus 3.x 深度实战:从 Pull 模型、TSDB 存储引擎到 PromQL 与生产级可观测性完全指南(2026)
编程
Prometheus 3.x 深度实战:从 Pull 模型、TSDB 存储引擎到 PromQL 与生产级可观测性完全指南(2026)
2026-07-09 02:50:59 +0800 CST
view 155
从 Pull 模型、TSDB 存储引擎到 PromQL 与生产级可观测性的 Prometheus 3.x 深度实战指南,含 Go/Python 埋点与 relabel 实战、cardinality 治理与长期存储选型。
Prometheus
可观测性
云原生
TSDB
PromQL
监控
GraphQL 性能优化深度实战:从 N+1 查询到 DataLoader 全链路调优,手搓生产级查询引擎
编程
GraphQL 性能优化深度实战:从 N+1 查询到 DataLoader 全链路调优,手搓生产级查询引擎
2026-07-10 09:46:49 +0800 CST
view 119
深度剖析 GraphQL 性能优化:从 N+1 查询问题根源到 DataLoader 批量加载原理,从查询复杂度分析到 Persisted Queries 传输优化,用 TypeScript 和 Go 双语言手搓生产级 GraphQL 查询引擎。
GraphQL
DataLoader
性能优化
N+1查询
Node.js
Go
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
编程
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
2026-06-02 09:36:52 +0800 CST
view 600
从vLLM到TensorRT-LLM,一次讲透vLLM、SGLang、TensorRT-LLM、llama.cpp四大LLM推理框架的架构哲学、核心原理、生产级部署实战与选型决策树。
LLM
vLLM
TensorRT-LLM
llama.cpp
SGLang
推理优化
GPU
llmfit 深度拆解:一条命令算出你的电脑能跑哪些大模型——硬件感知适配引擎的工程解剖
编程
llmfit 深度拆解:一条命令算出你的电脑能跑哪些大模型——硬件感知适配引擎的工程解剖
2026-07-24 18:44:04 +0800 CST
view 17
深度拆解 GitHub Trending 开源工具 llmfit:四维评分系统、量化自动试探、MoE 精算、带宽速度模型、Plan 模式与 bench 众包校准,从第一性原理讲透本地大模型的硬件适配方法论。
llmfit
本地大模型
LLM
Rust
量化
Ollama
llama.cpp
Apple Silicon
硬件适配
开源
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
编程
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
2026-06-27 12:44:29 +0800 CST
view 279
2026年LLM推理引擎深度实战:从PagedAttention、连续批处理、量化技术到生产级K8s部署,万字长文覆盖vLLM、SGLang、TensorRT-LLM、TGI四大框架架构原理与实测对比
LLM推理
vLLM
PagedAttention
SGLang
推理优化
TensorRT-LLM
生产部署
KV Cache
量化
Ollama 0.30 深度实战:当本地 LLM 推理有了双引擎——从 llama.cpp + MLX 双后端到 Gemma 4 QAT、从 Cohere2 MoE 到 ollama launch AI 编程助手生态的生产级完全指南(2026)
编程
Ollama 0.30 深度实战:当本地 LLM 推理有了双引擎——从 llama.cpp + MLX 双后端到 Gemma 4 QAT、从 Cohere2 MoE 到 ollama launch AI 编程助手生态的生产级完全指南(2026)
2026-06-21 08:54:17 +0800 CST
view 504
Ollama 0.30 深度解析:双引擎推理架构、Gemma 4 QAT、Cohere2 MoE、ollama launch 生态与生产级部署完全指南
Ollama
LLM
本地推理
AI编程
llama.cpp
MLX
Gemma
开源
Ollama 深度实战:当本地大模型成为生产级基础设施——从模型量化到高并发推理、从 REST API 到 Kubernetes 部署的完全指南(2026)
编程
Ollama 深度实战:当本地大模型成为生产级基础设施——从模型量化到高并发推理、从 REST API 到 Kubernetes 部署的完全指南(2026)
2026-06-20 01:25:22 +0800 CST
view 495
Ollama本地大模型生产级部署完全指南:从GGUF格式原理、INT4/INT8量化实战、REST API集成、多语言SDK(Python/Go/TypeScript)、GPU显存管理、Kubernetes+Helm生产部署、性能调优到RAG知识库构建,全流程深度实战。
Ollama
本地大模型
LLM部署
模型量化
GGUF
llama.cpp
REST API
Kubernetes
GPU
RAG
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
编程
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
2026-07-10 17:44:16 +0800 CST
view 289
深度对比2026年四大主流LLM推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9,涵盖PagedAttention、FP8量化、ZeRO-3、连续批处理等核心技术原理,配生产级代码示例与实测性能数据。
LLM
vLLM
TensorRT-LLM
TGI
DeepSpeed
推理优化
量化
AI部署
llmfit 深度拆解:一条命令算清你的机器能跑哪个大模型,Rust 硬件探测与适配度评分引擎全解析
编程
llmfit 深度拆解:一条命令算清你的机器能跑哪个大模型,Rust 硬件探测与适配度评分引擎全解析
2026-07-24 07:14:55 +0800 CST
view 21
深度拆解 GitHub Trending 破万星的 llmfit:Rust 硬件探测、权重与 KV cache 显存估算公式、内存带宽速度模型、MoE offload 运行模式,附 100 行 Python 复现 mini-llmfit 与工程集成实战。
llmfit
Rust
本地大模型
Ollama
llama.cpp
量化
KV cache
MoE
硬件选型
开源
LLM推理引擎终极对决:vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
编程
LLM推理引擎终极对决:vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
2026-04-20 13:45:31 +0800 CST
view 790
深度对比vLLM与TensorRT-LLM两大LLM推理框架,从PagedAttention到Kernel Fusion,从量化技术到生产部署,助你做出正确的技术选型决策
LLM
vLLM
TensorRT-LLM
推理优化
大模型部署
量化技术
AI工程
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
编程
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
2026-07-06 05:48:17 +0800 CST
view 153
深度解析Ollama本地LLM推理引擎架构与实战
Ollama
本地推理
LLM
Go
llama.cpp
GGUF
GPU
Modelfile
万字深度解析 Nano-vLLM:当1200行Python代码重构大模型推理——从架构设计到性能超越vLLM的完整技术指南(2026)
编程
万字深度解析 Nano-vLLM:当1200行Python代码重构大模型推理——从架构设计到性能超越vLLM的完整技术指南(2026)
2026-07-01 14:44:55 +0800 CST
view 222
Nano-vLLM:用约1200行Python代码实现的轻量级vLLM替代方案。深度解析KV Cache管理、GQA注意力、RoPE位置编码、Continuous Batching等核心技术,Benchmark性能超越vLLM 5.3%。适合学习大模型推理原理和内网轻量级部署。
Nano-vLLM
大模型推理
LLM
Tensor Parallelism
KV Cache
Continuous Batching
Python
PyTorch
Qwen2
开源项目
2026大模型推理框架年度横评:vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
编程
2026大模型推理框架年度横评:vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
2026-06-18 17:54:54 +0800 CST
view 600
深度横评2026年四大主流大模型推理框架,涵盖PagedAttention架构、ContinuousBatching、算子融合、FP8量化、NVMe卸载等核心技术,配实测数据与生产级选型指南
大模型
LLM
推理框架
vLLM
TensorRT-LLM
TGI
DeepSpeed
GPU推理
AI部署
NVIDIA
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
10
11
12
13
14
...
87
下一页