程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
vLLM 0.5 深度解析:PagedAttention 架构原理与生产级 LLM 推理优化实战
编程
vLLM 0.5 深度解析:PagedAttention 架构原理与生产级 LLM 推理优化实战
2026-07-04 18:15:46 +0800 CST
view 317
深度解析 vLLM 0.5 的 PagedAttention 架构原理,涵盖 KV Cache 分页管理、MoE 优化、分布式推理、量化技术,并通过代码实战和性能对比,帮助开发者掌握生产级 LLM 推理最佳实践。
vLLM
PagedAttention
LLM推理
CUDA
KV Cache
深度学习
AI基础设施
Python
生产部署
性能优化
AI Agent长期记忆工程实战:从语义向量到生产级记忆系统的完整落地
编程
AI Agent长期记忆工程实战:从语义向量到生产级记忆系统的完整落地
2026-06-29 04:44:18 +0800 CST
view 273
深入探讨如何为AI Agent构建持久化、可检索、分层管理的长期记忆系统,从向量数据库选型到LangChain生产级集成,附带完整Python代码。
AI Agent
长期记忆
向量数据库
Qdrant
LangChain
Google Gemma 4 深度解析:当开源AI进入「逐层嵌入平行化」时代
编程
Google Gemma 4 深度解析:当开源AI进入「逐层嵌入平行化」时代
2026-04-09 04:54:56 +0800 CST
view 959
Google于2026年4月发布Gemma 4开源模型系列,首次全面切换Apache 2.0许可证,搭载Per-Layer Embedding架构创新,26B MoE以3.8B激活参数击败Qwen3-235B。本文深度解析PLE架构、稀疏激活机制与全规格产品矩阵。
Gemma 4
Google
开源模型
Apache 2.0
MoE
Per-Layer Embedding
智谱 slime 深度实战:当 RL 后训练终于有了工业级「炼丹炉」——从 Megatron+SGLang 三模块联调到 GLM-5.2 两天完成 OPD 后训练的生产级完全指南(2026)
编程
智谱 slime 深度实战:当 RL 后训练终于有了工业级「炼丹炉」——从 Megatron+SGLang 三模块联调到 GLM-5.2 两天完成 OPD 后训练的生产级完全指南(2026)
2026-06-23 07:54:24 +0800 CST
view 383
2026年6月智谱开源RL后训练框架slime,支撑GLM-5.2仅用2天完成OPD后训练。本文深度解析其三模块架构、原生引擎透传设计、PD分离、增量权重同步等核心技术,附完整生产级部署实战代码。
强化学习
RL训练
slime框架
智谱AI
GLM-5.2
Megatron
SGLang
后训练
开源框架
生产级部署
µP 深度拆解:当调参侠终于破解 scaling 诅咒——从最大更新参数化到万亿参数大模型超参迁移的工程全貌(2026)
编程
µP 深度拆解:当调参侠终于破解 scaling 诅咒——从最大更新参数化到万亿参数大模型超参迁移的工程全貌(2026)
2026-07-19 08:43:41 +0800 CST
view 148
深度拆解微软/ OpenAI 的 µP(最大更新参数化)理论:从 Tensor Programs 数学框架、为什么标准参数化失效、到 PyTorch mup 库完整实战代码,含 Transformer 层、AdamW 配置、跨尺度超参数迁移验证与生产级 Pipeline。
µP
Max Update Parametrization
超参数迁移
Tensor Programs
深度学习
Transformer
LLM训练
AdamW
mup
微软
Context Engineering:超越 Prompt Engineering 的 AI 工程新范式
编程
Context Engineering:超越 Prompt Engineering 的 AI 工程新范式
2026-07-05 01:47:09 +0800 CST
view 195
深入探讨Context Engineering的核心概念、架构设计、上下文压缩技术和生产环境最佳实践。
AI工程
Context Engineering
Prompt Engineering
大模型
上下文管理
自建大模型统一网关:多模型路由、故障转移与成本治理的工程实战
编程
自建大模型统一网关:多模型路由、故障转移与成本治理的工程实战
2026-07-23 02:41:45 +0800 CST
view 112
从协议碎片化病根讲起,拆解生产级 LLM 网关必须解决的六类工程问题,并用手写 Go 网关+Python 语义缓存跑通路由、熔断、重试与成本记账。
LLM Gateway
大模型网关
多模型路由
故障转移
成本治理
LiteLLM
OmniRoute
Headroom 全解析:从 Rust 内核到 CCR 可逆协议,AI Agent Token 优化的终极方案(2026)
编程
Headroom 全解析:从 Rust 内核到 CCR 可逆协议,AI Agent Token 优化的终极方案(2026)
2026-06-29 08:15:21 +0800 CST
view 309
深度解析 Headroom:从 Rust 内核到 CCR 可逆协议,六大压缩算法引擎,五种部署模式,实测 60-95% Token 节省,答案准确度零损失。
AI Agent
Token优化
Headroom
Rust
上下文压缩
Headroom 深度实战:当 AI Agent 学会了「精打细算」——从 Token 成本黑洞到上下文压缩的底层原理、从 CCR 可逆存储到六大压缩算法的生产级完全指南(2026)
编程
Headroom 深度实战:当 AI Agent 学会了「精打细算」——从 Token 成本黑洞到上下文压缩的底层原理、从 CCR 可逆存储到六大压缩算法的生产级完全指南(2026)
2026-06-21 15:57:54 +0800 CST
view 289
深度解析开源项目 Headroom:AI Agent 的上下文压缩中间层,60-95% Token 节省,CCR 可逆存储,六大压缩算法完全指南。
AI编程
Token压缩
Headroom
上下文管理
LLM推理优化
AI Agent
Headroom深度解析:让AI Agent「吃得少、营养好」的上下文压缩革命
编程
Headroom深度解析:让AI Agent「吃得少、营养好」的上下文压缩革命
2026-07-05 04:43:37 +0800 CST
view 178
Headroom是一个开源的LLM上下文压缩中间件,能减少60-95%的token消耗,同时保持97%+的信息精度。本文深度解析其四层压缩管线、架构设计、使用模式和实战案例。
AI Agent
上下文压缩
Headroom
LLM
Token优化
caveman 深度解析:当 Claude Code 用「穴居人语言」砍掉 75% Token 消耗,AI 编程正式进入「极简主义」时代
编程
caveman 深度解析:当 Claude Code 用「穴居人语言」砍掉 75% Token 消耗,AI 编程正式进入「极简主义」时代
2026-04-10 00:14:55 +0800 CST
view 1621
深度解析 caveman 开源项目:一个让 Claude Code 用「穴居人语言」说话的 skill,砍掉 75% Token 消耗同时保持 100% 技术准确率。
Claude Code
Token优化
AI编程
Prompt Engineering
LLM效率
开源工具
程序员工具
代码审查
AstronClaw 深度解析:科大讯飞如何用软硬一体架构让AI Agent走进物理世界
编程
AstronClaw 深度解析:科大讯飞如何用软硬一体架构让AI Agent走进物理世界
2026-04-19 07:17:09 +0800 CST
view 694
深度解析科大讯飞AstronClaw软硬一体AI Agent架构,从技术原理到应用场景全面剖析,探讨AI Agent如何突破屏幕限制走进物理世界。
AstronClaw
科大讯飞
AI Agent
软硬一体
智能体
星火大模型
Loomy
GlassClaw
SkillHub
Headroom 深度实战:当 AI Agent 遇见上下文压缩——从 Token 黑洞到 60-95% 暴降的生产级完全指南(2026)
编程
Headroom 深度实战:当 AI Agent 遇见上下文压缩——从 Token 黑洞到 60-95% 暴降的生产级完全指南(2026)
2026-06-16 13:16:31 +0800 CST
view 600
Headroom 是一个 GitHub 上 26000+ Star 的开源项目,作为 AI Agent 的上下文压缩中间层,实测节省 60-95% Token,精度保留率 97%。本文从架构设计、六大压缩算法、CCR 可逆压缩、跨 Agent 记忆等维度深度拆解。
AI Agent
Headroom
Token优化
上下文压缩
LLM
开源项目
深度拆解Headroom:AI Agent上下文压缩层实战指南,Token暴降60%到95%的工程原理
编程
深度拆解Headroom:AI Agent上下文压缩层实战指南,Token暴降60%到95%的工程原理
2026-07-05 14:13:48 +0800 CST
view 215
深度拆解GitHub爆火项目Headroom——AI Agent上下文压缩层。从架构设计、压缩算法到工程实战,详解SmartCrusher/CodeCompressor/Kompress三大压缩器原理,实测Token节省60%-95%,精度保留97%。
Headroom
AI Agent
Token优化
上下文压缩
开源项目
Docker 27「Orion」深度解析:原生 AI 调度时代来临——GPU 拓扑感知、NUMA 绑定与容器化大模型部署新范式
编程
Docker 27「Orion」深度解析:原生 AI 调度时代来临——GPU 拓扑感知、NUMA 绑定与容器化大模型部署新范式
2026-05-10 00:41:20 +0800 CST
view 484
Docker 27 Orion深度解析:GPU拓扑感知调度与PCIe/NVLink自动绑定、NUMA内存带宽限制、dockerd-scheduler AI调度代理、docker ai run零配置LLM部署、Dockerfile.ai模型封装语法、OOM Killer五步防御、cgroups v2集成与生产环境避坑指南
Docker
容器化
GPU调度
NUMA
AI推理
LLM
docker-compose
cgroups
Dockerfile
NVIDIA
OpenAI Jalapeño 深度解析:9个月流片的AI推理芯片如何把成本砍掉一半,英伟达GPU帝国的裂痕
编程
OpenAI Jalapeño 深度解析:9个月流片的AI推理芯片如何把成本砍掉一半,英伟达GPU帝国的裂痕
2026-06-29 21:14:35 +0800 CST
view 310
深度解析OpenAI首款自研AI推理芯片Jalapeño:9个月流片、推理成本降低50%、每瓦性能超越英伟达GPU。从架构设计、内存优化、数据流优化到产业链合作,全方位解读这款芯片如何重塑AI推理市场格局。
OpenAI
Jalapeño
AI芯片
ASIC
推理芯片
英伟达
GPU
博通
Broadcom
LLM推理
Caveman:让 Claude 用原始人语言说话,65% Token 成本优化的技术真相
编程
Caveman:让 Claude 用原始人语言说话,65% Token 成本优化的技术真相
2026-07-11 11:48:22 +0800 CST
view 443
深度拆解 GitHub 开源项目 Caveman,通过方法派 Prompt 约束将 Claude Code 输出 Token 压缩 65%,附三档压缩方案、文言文模式、成本计算与实战指南。
AI编程
Token优化
Prompt工程
Claude Code
提示词压缩
开源工具
Caveman
Headroom 深度实战:当 AI Agent 遇到上下文压缩革命——从 Token 成本暴降95%到MCP原生集成的生产级完全指南(2026)
编程
Headroom 深度实战:当 AI Agent 遇到上下文压缩革命——从 Token 成本暴降95%到MCP原生集成的生产级完全指南(2026)
2026-06-17 02:24:26 +0800 CST
view 483
深度拆解Headroom上下文压缩层的核心原理、架构设计与生产级实战,实测Token成本暴降95%,附完整代码示例与部署优化方案
AI Agent
上下文压缩
Token优化
MCP
Headroom
OmniRoute 深度拆解:一个端点接住 268 家模型提供商,AI 网关的路由决策链、多层回退与上下文压缩实战
编程
OmniRoute 深度拆解:一个端点接住 268 家模型提供商,AI 网关的路由决策链、多层回退与上下文压缩实战
2026-07-24 05:14:12 +0800 CST
view 111
深度拆解 GitHub Trending 冲榜的 OmniRoute:一个 OpenAI 兼容端点接住 268+ 提供商。从协议归一、责任链路由决策、多层回退与熔断、上下文压缩到自托管部署与可观测性,配可运行代码,带你彻底看懂并手撸一个精简版 AI 网关。
OmniRoute
AI网关
LLM路由
多模型
上下文压缩
责任链模式
熔断降级
自托管
OpenAI兼容
FastAPI
Lightpanda 深度实战:当 AI Agent 有了自己的浏览器——从 Zig 零构建引擎到 CDP/MCP 双协议生产级部署完全指南
编程
Lightpanda 深度实战:当 AI Agent 有了自己的浏览器——从 Zig 零构建引擎到 CDP/MCP 双协议生产级部署完全指南
2026-06-11 10:49:09 +0800 CST
view 510
Lightpanda是用Zig从零构建的无头浏览器,专为AI和自动化设计。100并行页面比Chrome快9倍、内存省16倍,支持CDP和MCP双协议
Lightpanda
Zig
Headless Browser
AI Agent
MCP
CDP
Puppeteer
Web Automation
Loop Engineering深度解析:从Prompt到循环——2026年AI工程第四次范式跃迁的完整实战指南
编程
Loop Engineering深度解析:从Prompt到循环——2026年AI工程第四次范式跃迁的完整实战指南
2026-07-06 01:43:41 +0800 CST
view 386
深度解析Loop Engineering——2026年6月引爆AI圈的第四次工程范式跃迁。从Prompt到Context到Harness到Loop的完整演进、五大核心模块(Discover/Plan/Execute/Verify/Iterate)架构设计、完整Python代码实战、生产环境部署指南。
Loop Engineering
AI Agent
Prompt Engineering
Context Engineering
Harness Engineering
Python
自动化
工程范式
OmniRoute深度解析:聚合237+AI提供商的免费智能路由网关——从RTK+Caveman压缩到四级自动降级的完整实战指南
编程
OmniRoute深度解析:聚合237+AI提供商的免费智能路由网关——从RTK+Caveman压缩到四级自动降级的完整实战指南
2026-07-06 03:13:06 +0800 CST
view 501
深度解析OmniRoute开源AI网关:聚合237+提供商(50+免费)、RTK+Caveman双层Token压缩(节省15-95%)、四级自动降级、17种路由策略、三层弹性保障。含Python/Go/TypeScript完整代码实战、与LiteLLM/OpenRouter竞品对比、生产部署指南。
OmniRoute
AI网关
Token压缩
智能路由
LLM
开源
TypeScript
成本优化
OmniRoute深度拆解:500+模型统一调度、AI编程工具全家桶接入——开源AI网关的工程革命
编程
OmniRoute深度拆解:500+模型统一调度、AI编程工具全家桶接入——开源AI网关的工程革命
2026-07-24 11:12:42 +0800 CST
view 80
深度拆解 GitHub 23k+ Star 的 OmniRoute 开源 AI 网关:290+ Provider、500+ 模型统一调度,RTK+Caveman Token 压缩节省 15-95%,Quota 感知自动回退,Claude Code/Cursor/Codex 全家桶接入实战
OmniRoute
AI网关
大模型
Claude Code
Cursor
Token压缩
智能路由
开源
Headroom 深度拆解:当 AI Agent 学会「断舍离」——从上下文压缩层、CCR 可逆检索到 6 大压缩算法的工程全貌(2026)
编程
Headroom 深度拆解:当 AI Agent 学会「断舍离」——从上下文压缩层、CCR 可逆检索到 6 大压缩算法的工程全貌(2026)
2026-07-18 15:45:16 +0800 CST
view 142
Headroom 是 AI Agent 的上下文压缩层,在 Agent 与 LLM 之间插入本地优先、完全可逆的压缩中间件,实测节省 60-95% Token。本文从架构、4种集成模式、CCR 可逆检索到 6 大压缩算法与可运行代码实战全面拆解。
Headroom
AI Agent
上下文压缩
Token优化
LLM工程
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
20
21
22
23
24
...
52
下一页