程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
Kubernetes 1.36 原生 Gang 调度深度拆解:PodGroup/Workload API 如何终结 AI 训练的「半个作业」困局
编程
Kubernetes 1.36 原生 Gang 调度深度拆解:PodGroup/Workload API 如何终结 AI 训练的「半个作业」困局
2026-08-02 02:51:55 +0800 CST
view 145
从一个 8 卡训练任务的调度死锁讲起,拆解 Kubernetes 1.36 原生 Gang 调度(PodGroup/Workload API)的设计取舍、调度框架扩展点源码实现、DRA 不支持抢占带来的优先级反转,以及生产落地的选型清单与性能调优方法。
Kubernetes
Gang Scheduling
DRA
kube-scheduler
AI训练
云原生
LMCache 实战:大模型推理的 KV Cache 终极优化方案
编程
LMCache 实战:大模型推理的 KV Cache 终极优化方案
2026-07-23 08:44:51 +0800 CST
view 201
LMCache 实战指南:通过智能 KV Cache 管理,实现 LLM 推理吞吐量最高 10 倍提升,显存占用降低 40%-60%。包含 vLLM/TGI 集成、分布式缓存、性能调优最佳实践。
LMCache
KV Cache
LLM推理优化
vLLM
RAG性能优化
Apache DataFusion 深度拆解:当 Rust 遇上向量化查询引擎——从 Arrow 内存模型、查询优化器到 Comet 加速 Spark 的工程全貌(2026)
编程
Apache DataFusion 深度拆解:当 Rust 遇上向量化查询引擎——从 Arrow 内存模型、查询优化器到 Comet 加速 Spark 的工程全貌(2026)
2026-07-18 05:44:10 +0800 CST
view 269
深度拆解 Apache DataFusion:Rust 编写的向量化 SQL 查询引擎,从 Arrow 内存模型、逻辑/物理计划、查询优化器到自定义 UDF 与数据源、Python 绑定,以及 DataFusion Comet 透明加速 Spark 的工程全貌。
Apache DataFusion
Rust
向量化执行
查询引擎
Apache Arrow
DataFusion Comet
Spark 加速
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
编程
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
2026-07-14 18:47:11 +0800 CST
view 203
深度拆解 LMCache 项目:从 Transformer Attention 机制出发,详细讲解 KV Cache 原理、三层存储架构、生产部署实战、Docker Compose 配置、CacheGen 压缩算法、PD 分离、跨实例 KV Cache 共享,以及与 vLLM/SGLang 的集成,配完整代码示例与性能调优指南。实测 DeepSeek 多轮对话 3~5 倍 TTFT 改善。
LMCache
KV Cache
LLM推理
vLLM
SGLang
推理优化
DeepSeek
分布式缓存
万字深度解析 LMCache:当 LLM 推理遇见 KV Cache 革命——从 TTFT 优化到跨引擎 KV 复用、从 GPU/CPU/Disk 三级存储到分布式 P2P 共享的完整技术指南(2026)
编程
万字深度解析 LMCache:当 LLM 推理遇见 KV Cache 革命——从 TTFT 优化到跨引擎 KV 复用、从 GPU/CPU/Disk 三级存储到分布式 P2P 共享的完整技术指南(2026)
2026-07-03 03:14:31 +0800 CST
view 363
深度解析LMCache KV Cache管理层:从TTFT优化原理、GPU/CPU/Disk三级存储架构、跨引擎KV复用、分布式P2P共享,到与vLLM深度集成的生产级部署实战,含完整代码和性能调优指南。
LMCache
LLM推理
KV Cache
vLLM
TTFT优化
GPU优化
AI推理加速
分布式缓存
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
编程
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
2026-08-03 09:43:58 +0800 CST
view 171
深度拆解vLLM V1引擎四大核心架构:PagedAttention V2融合块表与前缀树缓存、分离式推理Prefill/Decode架构、KV Connector标准化接口、LMCache三层KV Cache管理,附完整部署配置与性能基准测试
vLLM
PagedAttention
LMCache
分离式推理
大模型推理
KV Cache
推理引擎
LLM Serving
GPU优化
开源
Hermes Agent v0.19.0 水银版深度解剖:80%速度提升背后的自进化架构革命
编程
Hermes Agent v0.19.0 水银版深度解剖:80%速度提升背后的自进化架构革命
2026-07-24 12:44:31 +0800 CST
view 269
深度解剖 Hermes Agent v0.19.0 水银版:80%速度提升、14倍TUI渲染提速、11项重磅新功能,以及支撑这一切的自进化闭环架构三层记忆系统完整解析
Hermes Agent
Hermes v0.19.0
Nous Research
AI Agent
自进化
Skill系统
开源
Quicksilver
Headroom深度解析:AI Agent上下文压缩层的架构革命——Token成本暴降95%与可逆压缩的完整实战指南
编程
Headroom深度解析:AI Agent上下文压缩层的架构革命——Token成本暴降95%与可逆压缩的完整实战指南
2026-07-05 21:12:46 +0800 CST
view 456
深度解析Headroom上下文压缩中间层:六大压缩算法(SmartCrusher/CodeCompressor/Kompress-base/ImageCompressor/IntelligentContext/CacheAligner)、CCR可逆压缩、跨Agent记忆共享、KV Cache命中率优化。含完整代码实战、基准测试对比、竞品分析与生产部署指南。
Headroom
AI Agent
上下文压缩
Token优化
CCR
可逆压缩
Context Engineering
KV Cache
LLM
Python
Headroom 深度解析:给 AI Agent 装上「上下文压缩层」——从 6 种压缩算法到 CCR 可逆架构、从 KV Cache 优化到生产级部署的完整技术指南(2026)
编程
Headroom 深度解析:给 AI Agent 装上「上下文压缩层」——从 6 种压缩算法到 CCR 可逆架构、从 KV Cache 优化到生产级部署的完整技术指南(2026)
2026-07-04 17:45:34 +0800 CST
view 222
Headroom 是 2026 年 7 月 GitHub 周趋势冠军(13k+ Star),通过 6 种压缩算法 + CCR 可逆架构,为 AI Agent 节省 60-95% Token,精度保留率 97%。本文深度解析架构原理、代码实战和生产级部署。
Headroom
AI Agent
Token压缩
上下文管理
开源项目
Python
Claude Code
KV Cache
AST感知
生产部署
万字深度解析 Nano-vLLM:当1200行Python代码重构大模型推理——从架构设计到性能超越vLLM的完整技术指南(2026)
编程
万字深度解析 Nano-vLLM:当1200行Python代码重构大模型推理——从架构设计到性能超越vLLM的完整技术指南(2026)
2026-07-01 14:44:55 +0800 CST
view 324
Nano-vLLM:用约1200行Python代码实现的轻量级vLLM替代方案。深度解析KV Cache管理、GQA注意力、RoPE位置编码、Continuous Batching等核心技术,Benchmark性能超越vLLM 5.3%。适合学习大模型推理原理和内网轻量级部署。
Nano-vLLM
大模型推理
LLM
Tensor Parallelism
KV Cache
Continuous Batching
Python
PyTorch
Qwen2
开源项目
Nushell 0.111 深度解析:用 Rust 重写 Shell,让命令行终于有了数据类型
编程
Nushell 0.111 深度解析:用 Rust 重写 Shell,让命令行终于有了数据类型
2026-05-12 01:44:53 +0800 CST
view 729
深度解析Nushell 0.111核心架构:结构化数据管道替代POSIX字符串流、IR优化器实现管道融合与谓词下推带来3-10倍性能提升、栈式虚拟机执行器保证类型安全与即时错误反馈,附DevOps实战、插件开发与渐进迁移指南
Nushell,Shell,Rust,命令行,结构化数据,数据管道,终端工具,DevOps,CLI,编程工具
Shepherd 深度解析:Stanford 把 Git 搬进 AI Agent 运行时——让 Agent 从「能跑」到「可回退、可监督、可训练」的完整实战指南
编程
Shepherd 深度解析:Stanford 把 Git 搬进 AI Agent 运行时——让 Agent 从「能跑」到「可回退、可监督、可训练」的完整实战指南
2026-07-07 13:19:13 +0800 CST
view 207
Stanford Christopher Manning团队发布Shepherd,把Git式版本控制引入AI Agent运行时:可逆执行轨迹让Agent执行可回退、可分叉、可重放;Syscall Jail把权限约束压到OS内核层物理不可绕过;Tree-GRPO让RL训练翻倍加速。完整实战+代码示例。
Shepherd
AI Agent
Meta-Agent
Git
Stanford
可逆执行
RL训练
Agent工程
版本控制
Python
Nushell 深度实战:30K Star 的结构化数据 Shell——从类型系统到插件架构的生产级全链路解析
编程
Nushell 深度实战:30K Star 的结构化数据 Shell——从类型系统到插件架构的生产级全链路解析
2026-05-07 00:37:06 +0800 CST
view 764
深度解析 Nushell 的类型系统、结构化数据管道、Rust 多 Crate 架构、插件机制和生产实践,从 Bash 迁移到 Nu 的全链路实战指南
Nushell
Rust
Shell
结构化数据
管道
插件系统
类型系统
DevOps
Nushell 深度解析:为什么 2026 年最值得学习的 Shell 不是 Bash
编程
Nushell 深度解析:为什么 2026 年最值得学习的 Shell 不是 Bash
2026-04-18 00:47:07 +0800 CST
view 712
深入解析 2026 年最值得学习的 Shell 工具 Nushell,从架构设计、管道机制、代码实战多维度剖析,探讨它如何用结构化数据管道取代传统文本流,以及如何在生产环境中落地使用。
Nushell
Rust
Shell
命令行
Linux
Hermes Agent 深度拆解:当 Nous Research 决定「干掉所有无状态 Agent」——110K Star 的自进化智能体如何用闭环学习重新定义 AI Agent 的终极形态
编程
Hermes Agent 深度拆解:当 Nous Research 决定「干掉所有无状态 Agent」——110K Star 的自进化智能体如何用闭环学习重新定义 AI Agent 的终极形态
2026-08-04 07:42:23 +0800 CST
view 182
深度拆解 Nous Research 出品的 110K Star 自进化 AI Agent 框架:闭环学习系统、技能自动生成与优化、SQLite FTS5 跨会话记忆、Honcho 用户建模、Atropos RL 强化学习训练环境,附完整代码示例与架构对比分析
Hermes Agent
Nous Research
AI Agent
自进化
闭环学习
Python Agent
开源
MIT
Atropos
Honcho
Hermes Agent 深度实战:当AI智能体学会越用越聪明——从E-A-A-S闭环到生产级自进化系统的2026完全指南
编程
Hermes Agent 深度实战:当AI智能体学会越用越聪明——从E-A-A-S闭环到生产级自进化系统的2026完全指南
2026-06-26 00:43:59 +0800 CST
view 327
2026年2月Nous Research开源的Hermes Agent以惊人的速度席卷全球。本文深度解析其E-A-A-S闭环自进化系统、三层记忆架构、Tool Search机制,并提供完整的代码实战和生产部署指南。
Hermes Agent
自进化AI
E-A-A-S闭环
三层记忆架构
Tool Search
Nous Research
AI Agent框架
Token优化
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
编程
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
2026-07-30 21:49:19 +0800 CST
view 152
深度拆解 LLM 推理服务的七层优化栈:PagedAttention 分页显存与写时复制、连续批处理消灭队头阻塞、前缀缓存命中率实操、Chunked Prefill 与 PD 分离决策、KV Cache 分层复用的拉取/重算临界点、投机解码加速比数学与失效场景、量化与并行选型。附大量可运行代码、压测骨架、调优顺序与七个常见误区。
LLM推理
vLLM
SGLang
PagedAttention
PD分离
KV Cache
前缀缓存
投机解码
Chunked Prefill
性能优化
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
编程
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
2026-07-07 16:15:25 +0800 CST
view 180
深入解析2026年大模型推理中的KV Cache优化技术栈:从PagedAttention虚拟分页管理、Prefix Caching缓存复用、Speculative Decoding并行验证,到INT8量化与Continuous Batching生产实践,配合代码示例与性能对比,助你系统性掌握LLM推理优化的核心要领。
LLM
KV Cache
PagedAttention
Prefix Caching
vLLM
推理优化
Speculative Decoding
Kubernetes v1.36 深度解析:User Namespaces 四年转正、ImageVolume GA 与原生 Gang Scheduling,一次「稳中藏刀」的大版本
编程
Kubernetes v1.36 深度解析:User Namespaces 四年转正、ImageVolume GA 与原生 Gang Scheduling,一次「稳中藏刀」的大版本
2026-07-29 04:13:59 +0800 CST
view 165
Kubernetes v1.36 工程视角深度拆解:Pod User Namespaces 四年磨一剑正式 GA、ImageVolume 让 OCI 镜像变身数据分发格式、DRA 军团式毕业与原生 Gang Scheduling 落地,附破坏性变更清单与生产升级 checklist。
Kubernetes
K8s 1.36
DRA
Gang Scheduling
User Namespaces
ImageVolume
云原生
容器安全
Kubernetes v1.36 "Haru" 深度实战:当安全默认配置遇见动态资源分配——从 Pod User Namespaces GA 到生产级集群迁移的完全指南(2026)
编程
Kubernetes v1.36 "Haru" 深度实战:当安全默认配置遇见动态资源分配——从 Pod User Namespaces GA 到生产级集群迁移的完全指南(2026)
2026-06-16 20:23:25 +0800 CST
view 535
Kubernetes v1.36 Haru 深度实战指南,涵盖 71 项增强中 Pod User Namespaces GA、Mutating Admission Policies GA、DRA 动态资源分配重大增强、Gang Scheduling Alpha、Ingress NGINX 退役与 Gateway API 迁移等核心主题,附带完整代码示例和生产级升级清单。
Kubernetes
v1.36
Haru
DRA
User Namespaces
Gateway API
Gang Scheduling
云原生
TypeScript 7.0 深度拆解:当微软用 Go 语言重写 14 年老编译器,一次编译提速 10 倍背后的工程方法论
编程
TypeScript 7.0 深度拆解:当微软用 Go 语言重写 14 年老编译器,一次编译提速 10 倍背后的工程方法论
2026-07-15 07:43:20 +0800 CST
view 201
深度解析 TypeScript 7.0 用 Go 重写编译器的技术原理:并行类型检查、worker pool 架构、破坏性变更、升级路径与工程意义,附完整代码示例与性能调优实战
TypeScript 7.0
TypeScript Go重写
Go编译器
TypeScript性能优化
前端工具链
monorepo
typecheck
从OpenClaw到Hermes Agent:两款爆火开源AI Agent的对决与深层技术哲学
编程
从OpenClaw到Hermes Agent:两款爆火开源AI Agent的对决与深层技术哲学
2026-04-18 16:15:01 +0800 CST
view 675
深度解析OpenClaw与Hermes Agent的功能差异与底层架构:Skill体系谁按下启动键、记忆系统谁在替谁记事、上下文管理的确定性优先哲学,以及两者背后的干预递减光谱与自动化控制权之争。
AI Agent
OpenClaw
Hermes
NousResearch
Skill系统
记忆系统
自进化
GitHub
开源
技术哲学
Hermes Agent 深度实战:自我进化的 AI Agent 架构与生产级实践——从 NousResearch 15万星项目中看 AI 编程伙伴的新范式
编程
Hermes Agent 深度实战:自我进化的 AI Agent 架构与生产级实践——从 NousResearch 15万星项目中看 AI 编程伙伴的新范式
2026-05-22 13:17:11 +0800 CST
view 753
深入解析 NousResearch 开源的 Hermes Agent(15.5万星)六层架构、三层记忆系统、Skills 七阶段进化闭环,包含完整源码解析和 8 种部署方案对比
AI Agent
Hermes Agent
NousResearch
自我进化
记忆系统
Hermes Agent 深度解析:当 AI Agent 第一次学会「从经验中长大」
编程
Hermes Agent 深度解析:当 AI Agent 第一次学会「从经验中长大」
2026-04-10 01:07:08 +0800 CST
view 1512
深度解析 Nous Research 开源的 Hermes Agent:唯一内置学习循环的 AI Agent,40K+ Stars,支持自进化、多平台、定时任务,5美元VPS即可运行,与 OpenClaw 正面竞争。
AI Agent
Hermes Agent
Nous Research
自我进化
开源AI
智能助手
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
4
5
...
60
下一页