程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
编程
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
2026-08-04 19:22:29 +0800 CST
view 103
深度拆解SGLang 27K Star开源LLM推理框架:RadixAttention基数树前缀缓存实现3-8倍加速、自研FlashInfer CUDA Kernel、Prefill-Decode分离架构、GB300 NVL72上25倍性能飞跃、DFlash投机采样、多LoRA热切换,附完整部署与调优指南
SGLang
LLM推理
RadixAttention
FlashInfer
GPU加速
大模型部署
推理引擎
PagedAttention
PD分离
投机采样
CUDA
开源
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
编程
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
2026-05-17 04:14:18 +0800 CST
view 620
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
编程
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
2026-05-17 04:14:33 +0800 CST
view 528
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
Kimi K3 开源深度拆解:2.8T MoE 架构 + 三项 Infra 突破,国产大模型首次摸到开源前沿的天花板
编程
Kimi K3 开源深度拆解:2.8T MoE 架构 + 三项 Infra 突破,国产大模型首次摸到开源前沿的天花板
2026-07-30 15:44:58 +0800 CST
view 347
深度拆解 Kimi K3 技术架构:2.8T MoE 稀疏化、Stable LatentMoE 稳定性设计、KDA+Gated MLA 混合注意力、Attention Residuals 深度优化,以及 MoonEP/FlashKDA/AgentEnv 三项开源 Infra 技术的工程价值。
Kimi K3
MoE
KDA
Stable LatentMoE
MoonEP
FlashKDA
AgentEnv
LLM
开源大模型
国产AI
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
编程
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
2026-06-15 21:20:49 +0800 CST
view 307
深入解析小米MiMo UltraSpeed如何通过SWA架构在通用GPU上突破1000 tokens/s推理速度,从O(n²)困境到极致跨越的完整技术指南。
SWA
Sliding Window Attention
LLM推理
小米MiMo
推理优化
Transformer
PagedAttention
量化推理
端侧AI
METATRON 深度解析:当 AI 渗透测试在本地跑出「免费版 GPT-4 安全助手」
编程
METATRON 深度解析:当 AI 渗透测试在本地跑出「免费版 GPT-4 安全助手」
2026-04-09 07:55:23 +0800 CST
view 1151
深度解析 METATRON:如何在本地零成本跑起一个完整的 AI 渗透测试助手,基于 Qwen 微调模型 + Ollama + MariaDB,无需 API Key,数据完全不出本地。
AI渗透测试
Ollama
Qwen
本地大模型
MariaDB
Pentest
安全工具
Agent
Claude Memory Compiler 深度解析:当 AI 编程助手第一次拥有「编译器思维」的记忆系统
编程
Claude Memory Compiler 深度解析:当 AI 编程助手第一次拥有「编译器思维」的记忆系统
2026-04-10 03:35:31 +0800 CST
view 947
claude-memory-compiler 把 AI 对话当作源代码,用 LLM 编译成结构化知识库,让 Claude Code 拥有跨会话记忆能力
Claude Code
AI Agent
Knowledge Management
LLM
Memory System
Headroom深度解析:AI Agent上下文压缩层的架构革命——Token成本暴降95%与可逆压缩的完整实战指南
编程
Headroom深度解析:AI Agent上下文压缩层的架构革命——Token成本暴降95%与可逆压缩的完整实战指南
2026-07-05 21:12:46 +0800 CST
view 426
深度解析Headroom上下文压缩中间层:六大压缩算法(SmartCrusher/CodeCompressor/Kompress-base/ImageCompressor/IntelligentContext/CacheAligner)、CCR可逆压缩、跨Agent记忆共享、KV Cache命中率优化。含完整代码实战、基准测试对比、竞品分析与生产部署指南。
Headroom
AI Agent
上下文压缩
Token优化
CCR
可逆压缩
Context Engineering
KV Cache
LLM
Python
vLLM 深度实战:从 PagedAttention 到 Speculative Decoding——2026年大模型推理引擎内核架构完全指南
编程
vLLM 深度实战:从 PagedAttention 到 Speculative Decoding——2026年大模型推理引擎内核架构完全指南
2026-05-23 18:44:14 +0800 CST
view 651
2026年深度长文,从PagedAttention分页思想、Continuous Batching调度算法、Speculative Decoding并行验证机制到CUDA Kernel底层实现,全面拆解vLLM推理引擎内核架构,附生产级部署实战与框架横向对比。
vLLM
PagedAttention
Continuous Batching
Speculative Decoding
GPU推理
大模型部署
深度学习
CUDA
Hermes Agent 深度解析:自进化智能体的工程架构与 Skill 生成机制
编程
Hermes Agent 深度解析:自进化智能体的工程架构与 Skill 生成机制
2026-04-12 05:23:08 +0800 CST
view 1528
深入解析 Hermes Agent 的自进化智能体架构:从 Skill 自动生成引擎、三层记忆系统、Tool Router 到 Platform Bridge,源码级别剖析 + 代码示例,对比 OpenClaw
AI Agent
Hermes Agent
Nous Research
自进化
智能体
Skill生成
Memory Hub
Tool Router
OXC 深度拆解:当 VoidZero 决定「用 Rust 重写整个 JavaScript 工具链」——从 Parser 到 Linter 再到 Formatter,一个被 Cloudflare 收购的团队如何用「编译器级 AST 共享架构」重新定义前端基础设施的终极形态
编程
OXC 深度拆解:当 VoidZero 决定「用 Rust 重写整个 JavaScript 工具链」——从 Parser 到 Linter 再到 Formatter,一个被 Cloudflare 收购的团队如何用「编译器级 AST 共享架构」重新定义前端基础设施的终极形态
2026-08-06 04:44:44 +0800 CST
view 143
深度拆解OXC(The Oxidation Compiler):VoidZero用Rust重写整个JavaScript工具链,Oxlint比ESLint快100倍、Oxfmt比Prettier快35倍、oxc-parser比SWC快3倍,编译器级AST共享架构重新定义前端基础设施
OXC
Rust
JavaScript
前端工具链
Oxlint
Oxfmt
VoidZero
Cloudflare
ESLint
Prettier
TypeScript
Vite
Rolldown
Kubernetes Operator 深度实战:从 Controller Runtime 到生产级 CRD 控制器的完整工程指南(2026)
编程
Kubernetes Operator 深度实战:从 Controller Runtime 到生产级 CRD 控制器的完整工程指南(2026)
2026-07-20 08:14:32 +0800 CST
view 215
2026年Kubernetes Operator深度实战:从Controller Runtime内核、Informer/WorkQueue/Reconcile机制、Kubebuilder工程实践、Webhook验证、envtest测试到生产部署的完整工程指南,配可运行Go代码示例。共12000字,涵盖架构原理、性能优化、最佳实践与踩坑指南。
Kubernetes Operator
Controller Runtime
Kubebuilder
CRD
云原生
控制器模式
Go
Kubernetes Operator 开发实战:从 CRD 到服务网格 Istio 落地的完整工程指南
编程
Kubernetes Operator 开发实战:从 CRD 到服务网格 Istio 落地的完整工程指南
2026-04-23 13:11:43 +0800 CST
view 736
深度解析 Kubernetes Operator 开发完整流程:从 CRD 定义、Controller 实现到 Istio 服务网格集成,涵盖 Kubebuilder 脚手架、Webhook 验证、性能优化与生产部署最佳实践,约12000字。
Kubernetes
Operator
Istio
云原生
Go
controller-runtime
CRD
SGLang 深度实战:新一代 LLM 编程与推理框架——从 RadixAttention 原理到 Agent 系统生产部署
编程
SGLang 深度实战:新一代 LLM 编程与推理框架——从 RadixAttention 原理到 Agent 系统生产部署
2026-05-06 17:37:39 +0800 CST
view 804
深度解析 SGLang 推理框架的 RadixAttention 原理、DSL 编程范式、正则约束解码,以及在 Agent 系统和多轮对话场景的生产部署实践。
SGLang
LLM
推理加速
Agent
RadixAttention
结构化生成
PydanticAI 深度实战:当 Python 类型系统遇见 AI Agent——从类型安全到生产级智能体工程完全指南(2026)
编程
PydanticAI 深度实战:当 Python 类型系统遇见 AI Agent——从类型安全到生产级智能体工程完全指南(2026)
2026-06-21 13:24:53 +0800 CST
view 345
PydanticAI深度实战:类型安全+依赖注入+评估驱动开发,从零构建生产级AI Agent,含完整代码示例和性能优化策略。
PydanticAI
Python
AI Agent
类型安全
生产级
LLM
Agent Lightning 深度解析:微软开源 AI Agent 训练框架——零代码改动,让任何 AI Agent 学会「自我进化」
编程
Agent Lightning 深度解析:微软开源 AI Agent 训练框架——零代码改动,让任何 AI Agent 学会「自我进化」
2026-05-16 03:14:41 +0800 CST
view 629
微软研究院开源 Agent Lightning:零代码改动训练任何 AI Agent,支持 RL/APO/SFT,已验证 128 GPU 大规模训练。
AgentLightning
强化学习
AI Agent
微软开源
LLM训练
Obsidian Skills 深度解析:当 Agent Skills 规范让 AI Agent 真正"接管"本地知识库
编程
Obsidian Skills 深度解析:当 Agent Skills 规范让 AI Agent 真正"接管"本地知识库
2026-04-09 07:23:15 +0800 CST
view 1160
深入解析 Obsidian CEO kepano 开源的 obsidian-skills 项目,探讨 Agent Skills 规范如何让 AI Agent 真正理解本地知识库的底层格式,实现从"工具集成"到"知识接管"的范式跃迁。
obsidian
agent-skills
claude-code
知识管理
ai-agent
PydanticAI 深度拆解:当 Python 决定「干掉 LangChain」——一个 26K Star 的 AI Agent 框架如何用类型安全重新定义智能体开发的工程哲学
编程
PydanticAI 深度拆解:当 Python 决定「干掉 LangChain」——一个 26K Star 的 AI Agent 框架如何用类型安全重新定义智能体开发的工程哲学
2026-08-04 04:21:25 +0800 CST
view 112
深度拆解PydanticAI 26K Star AI Agent框架:类型驱动设计、RunContext依赖注入、结构化输出自动校验重试、MCP原生集成、多供应商模型抽象,附完整生产级代码示例与性能基准对比
PydanticAI
AI Agent
Python
类型安全
结构化输出
MCP
依赖注入
LLM
GenericAgent 自进化机制深度剖析:分层记忆架构与 Token 效率优化实战
编程
GenericAgent 自进化机制深度剖析:分层记忆架构与 Token 效率优化实战
2026-04-29 06:12:06 +0800 CST
view 1080
深度剖析 GenericAgent 的技术架构:仅 3K 行核心代码实现自我进化的 AI Agent,分层记忆系统实现 6 倍 Token 效率提升,支持浏览器注入、系统级控制、ADB 移动设备操作。
GenericAgent
AI Agent
自我进化
LLM
Hermes Agent深度解析:四层记忆体系与五阶段闭环学习,自进化AI Agent的架构设计与工程实践
编程
Hermes Agent深度解析:四层记忆体系与五阶段闭环学习,自进化AI Agent的架构设计与工程实践
2026-07-23 10:43:45 +0800 CST
view 191
深度解析Nous Research开源的Hermes Agent:四层记忆体系、五阶段闭环学习机制、Skills技能系统与多Agent协作架构,从工程实践角度全面拆解自进化AI Agent的设计精髓
Hermes Agent
Nous Research
AI Agent
记忆系统
FTS5
闭环学习
Skills系统
自进化
Rig 深度拆解:8K Star 的 Rust LLM 框架如何用统一 API 打通 20+ 模型提供商——从类型安全的 Agent 编排到 WASM 边缘部署的全栈实战指南
编程
Rig 深度拆解:8K Star 的 Rust LLM 框架如何用统一 API 打通 20+ 模型提供商——从类型安全的 Agent 编排到 WASM 边缘部署的全栈实战指南
2026-08-04 09:43:57 +0800 CST
view 126
深度拆解8K Star开源Rust LLM应用框架Rig:20+模型提供商统一接口、类型安全Agent编排、结构化输出Extractor、10+向量存储集成、WASM边缘部署支持,附完整代码示例与性能基准对比
Rig
Rust
LLM
AI框架
类型安全
Agent
WASM
边缘计算
OpenAI
Anthropic
向量存储
MCP
TradingAgents 深度拆解:当多智能体决定「干掉华尔街交易员」——一个 85K Star 的开源框架如何用 7 个 AI 角色模拟真实交易公司的决策流程
编程
TradingAgents 深度拆解:当多智能体决定「干掉华尔街交易员」——一个 85K Star 的开源框架如何用 7 个 AI 角色模拟真实交易公司的决策流程
2026-08-04 11:45:05 +0800 CST
view 126
深度拆解85K Star开源多智能体金融交易框架TradingAgents:7个AI角色模拟真实交易公司、LangGraph状态图编排、结构化辩论消除幻觉、独立风险管理,附完整代码示例与性能基准对比
TradingAgents
多智能体
LangGraph
金融交易
AI Agent
LLM
量化交易
开源
Hermes Agent 自进化架构深度解析:五个阶段闭环学习系统如何让 AI Agent 真正「越用越聪明」
编程
Hermes Agent 自进化架构深度解析:五个阶段闭环学习系统如何让 AI Agent 真正「越用越聪明」
2026-07-24 02:15:32 +0800 CST
view 198
深度解析 Hermes Agent 的五大阶段闭环学习系统:Execute-Trigger-Review-Persist-Evolve。涵盖三层记忆架构、GRPO 强化学习内化、Tool Search 上下文优化,以及与 OpenClaw 的工程路线对比。
Hermes Agent
Nous Research
AI Agent
自进化
闭环学习系统
Skill
Memory
GRPO
OpenClaw
MCP
从"第二天失忆"到"越用越聪明":Hermes Agent 如何用 Skills 闭环系统重新定义 AI Agent
编程
从"第二天失忆"到"越用越聪明":Hermes Agent 如何用 Skills 闭环系统重新定义 AI Agent
2026-04-20 10:17:48 +0800 CST
view 856
深度解析 NousResearch 开源的 Hermes Agent,剖析其 Skills 闭环系统与四层记忆架构,探讨 AI Agent 如何从"健忘症患者"进化为"越用越聪明"的智能伙伴,对比 Claude Code、OpenClaw、LangChain Agent 等竞品,并提供完整部署指南。
AI Agent
Hermes Agent
NousResearch
自我进化
Skills
记忆系统
Python
OpenClaw
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
10
11
12
13
14
...
98
下一页