程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
编程
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
2026-05-17 10:21:56 +0800 CST
view 495
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
编程
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
2026-05-17 10:22:13 +0800 CST
view 478
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
SGLang 深度实战:新一代 LLM 编程与推理框架——从 RadixAttention 原理到 Agent 系统生产部署
编程
SGLang 深度实战:新一代 LLM 编程与推理框架——从 RadixAttention 原理到 Agent 系统生产部署
2026-05-06 17:37:39 +0800 CST
view 646
深度解析 SGLang 推理框架的 RadixAttention 原理、DSL 编程范式、正则约束解码,以及在 Agent 系统和多轮对话场景的生产部署实践。
SGLang
LLM
推理加速
Agent
RadixAttention
结构化生成
Agent-Reach 深度解析:给 AI Agent 装上互联网的「万能眼睛」——从脚手架架构到 11 平台全覆盖、从零成本接入到生产级部署的完整技术指南(2026)
编程
Agent-Reach 深度解析:给 AI Agent 装上互联网的「万能眼睛」——从脚手架架构到 11 平台全覆盖、从零成本接入到生产级部署的完整技术指南(2026)
2026-07-04 16:42:45 +0800 CST
view 240
深度解析 Agent-Reach 项目:给 AI Agent 装上互联网能力的脚手架工具,覆盖 11 大平台,零成本接入,包含完整技术指南和生产部署最佳实践。
Agent-Reach
AI Agent
互联网访问
Claude Code
OpenClaw
Cursor
MCP
GitHub
Twitter
YouTube
脚手架
CodeGraph 深度解析:给 AI 编程助手装上代码知识图谱——从 Tree-sitter 解析到 MCP 协议集成的工程革命
编程
CodeGraph 深度解析:给 AI 编程助手装上代码知识图谱——从 Tree-sitter 解析到 MCP 协议集成的工程革命
2026-06-30 05:13:55 +0800 CST
view 261
深度解析CodeGraph代码知识图谱引擎:Tree-sitter多语言解析、符号提取与关系建模、SQLite+FTS5图数据库设计、MCP协议集成、性能优化策略、生产级部署实践,附完整代码示例与架构分析。
CodeGraph
代码知识图谱
AI编程
Tree-sitter
MCP协议
SQLite
AST解析
CodeGraph 深度实战:当 AI 编程助手学会「看代码地图」——从 Tree-sitter 预索引到 MCP 协议集成的生产级完全指南(2026)
编程
CodeGraph 深度实战:当 AI 编程助手学会「看代码地图」——从 Tree-sitter 预索引到 MCP 协议集成的生产级完全指南(2026)
2026-06-11 10:19:48 +0800 CST
view 441
CodeGraph 是 2026 年 AI 编程基础设施的重大创新,通过预索引代码知识图谱,让 AI 编程助手可以直接查询代码结构而非逐文件扫描,平均减少 57% Token 消耗。本文深入解析其架构原理、安装配置和生产部署。
CodeGraph,AI编程,MCP,tree-sitter,SQLite
C语言重写 × 知识图谱 × 99% Token节省:codebase-memory-mcp 如何让 AI 编程代理真正「懂」你的代码
编程
C语言重写 × 知识图谱 × 99% Token节省:codebase-memory-mcp 如何让 AI 编程代理真正「懂」你的代码
2026-06-26 16:49:08 +0800 CST
view 148
深入解析 DeusData/codebase-memory-mcp:纯 C 语言重写的代码知识图谱引擎,158 种语言支持,亚毫秒查询,99% Token 节省,零依赖单二进制。涵盖架构设计、与 Sourcegraph/Cursor 的全方位对比、生产实战指南。
codebase-memory-mcp
C
知识图谱
MCP
AI编程
Tree-sitter
代码智能
Token优化
SQLite
ECMAScript 2026 深度解析:从 Temporal API 到 using 声明,一场改变 JavaScript 未来的语言革命
编程
ECMAScript 2026 深度解析:从 Temporal API 到 using 声明,一场改变 JavaScript 未来的语言革命
2026-06-27 14:43:49 +0800 CST
view 197
ECMAScript 2026引入using声明、Temporal API、Pattern Matching、Records Tuples等重大新特性。本文深度解析这些将改变JavaScript未来的语言变革,配完整代码示例。
ECMAScript 2026
Temporal API
using
Pattern Matching
JavaScript
前端
TypeScript
Node.js
代码知识图谱革命:Understand Anything 与 CodeGraph 如何重塑 AI 编程的全局视野
编程
代码知识图谱革命:Understand Anything 与 CodeGraph 如何重塑 AI 编程的全局视野
2026-05-31 09:53:49 +0800 CST
view 599
深度解析 GitHub 热门项目 Understand Anything 与 CodeGraph,揭秘代码知识图谱如何让 AI 编程助手获得全局视野,Token 消耗下降 90%,代码理解效率提升 10 倍。从 Tree-sitter 解析到多 Agent 流水线,从 SQLite 预索引到语义理解双引擎,一篇讲透代码知识图谱的技术原理与实战应用。
AI编程
代码分析
知识图谱
开源项目
Claude Code
Cursor
Tree-sitter
SQLite
性能优化
用 Obsidian + Claude 整了个 AI 记忆外挂:claude-obsidian 深度测评
编程
用 Obsidian + Claude 整了个 AI 记忆外挂:claude-obsidian 深度测评
2026-07-04 16:22:16 +0800 CST
view 203
claude-obsidian是GitHub上8.5K Stars的开源AI知识引擎,将PDF/文本自动整理为wiki知识图谱,hot.md持久化跨会话记忆,autoresearch三轮自主研究+归档,支持PARA/LYT/Zettelkasten四种知识组织方法论,MIT协议数据不锁死。
Obsidian
Claude
AI第二大脑
知识图谱
claude-obsidian
hot缓存
autoresearch
PARA
LYT
Zettelkasten
Markdown
MIT
开源
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
2026-06-10 10:17:56 +0800 CST
view 294
深度解析 vLLM 的核心架构 PagedAttention 和 Continuous Batching,从内存管理原理到生产级分布式部署的完全指南。
vLLM
LLM推理
PagedAttention
GPU优化
大模型部署
AI推理
Understand Anything 深度实战:让 AI Agent 把 20 万行代码库变成可交互知识图谱——从 Tree-sitter 静态解析到多智能体流水线的完全指南(2026)
编程
Understand Anything 深度实战:让 AI Agent 把 20 万行代码库变成可交互知识图谱——从 Tree-sitter 静态解析到多智能体流水线的完全指南(2026)
2026-06-02 00:54:58 +0800 CST
view 351
深度解析 Understand Anything 如何用 Tree-sitter 静态解析 + LLM 语义理解双引擎,通过 7 个专业 Agent 流水线将大型代码库转化为可交互知识图谱,包含完整代码实战和性能优化策略。
代码知识图谱
AI Agent
Tree-sitter
代码理解
多智能体
SGLang深度解析:RadixAttention架构下的大模型推理革命——从零到生产的高性能LLM服务框架实战指南
编程
SGLang深度解析:RadixAttention架构下的大模型推理革命——从零到生产的高性能LLM服务框架实战指南
2026-07-05 18:13:38 +0800 CST
view 208
深度解析SGLang高性能大模型推理框架:RadixAttention自动前缀缓存、零开销C++调度器、PD分离架构、多LoRA批处理、推测解码。含完整代码实战与vLLM/TensorRT-LLM对比。
SGLang
RadixAttention
LLM
推理引擎
大模型
vLLM
GPU
高并发
AI基础设施
性能优化
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
2026-06-11 03:16:24 +0800 CST
view 337
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
编程
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
2026-06-11 03:17:21 +0800 CST
view 679
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
Understand-Anything 深度实战:当代码库学会「讲故事」——从 Tree-sitter AST 到多 Agent 知识图谱的完全指南(2026)
编程
Understand-Anything 深度实战:当代码库学会「讲故事」——从 Tree-sitter AST 到多 Agent 知识图谱的完全指南(2026)
2026-06-13 11:51:50 +0800 CST
view 457
55.5K Stars的GitHub热榜项目,Understand-Anything通过Tree-sitter AST + 多Agent LLM流水线,让代码库变成可交互的知识图谱。本文从架构原理、源码实现、生产级应用场景、性能调优等维度全面拆解。适合接手续留代码、代码审查、架构重构等场景。
Understand-Anything
代码知识图谱
Tree-sitter
多Agent
Claude Code
开源工具
AI编程
vLLM 深度解析:LLM 推理性能的终极引擎——从 PagedAttention 到生产级部署的完整技术内幕
编程
vLLM 深度解析:LLM 推理性能的终极引擎——从 PagedAttention 到生产级部署的完整技术内幕
2026-05-18 08:22:35 +0800 CST
view 615
全面解析 vLLM 推理引擎的核心架构,从 PagedAttention 原理到生产级部署实战,涵盖量化推理、多GPU并行、性能调优等完整技术栈
vLLM
LLM推理
PagedAttention
GPU优化
量化推理
深度解析
万字深度解析 CodeGraph:当 AI Agent 遇见代码知识图谱——从 Tree-sitter 解析到 MCP 协议输出的完整技术指南(2026)
编程
万字深度解析 CodeGraph:当 AI Agent 遇见代码知识图谱——从 Tree-sitter 解析到 MCP 协议输出的完整技术指南(2026)
2026-07-02 04:45:49 +0800 CST
view 147
深度解析 CodeGraph 开源项目:为 AI 编程 Agent 预构建代码知识图谱,通过 Tree-sitter 多语言解析、SQLite 存储、MCP 协议输出,实现 Token 消耗减少 60-90%、响应速度提升 5-15 倍。含完整源码分析、生产级集成实战。
CodeGraph
AI Agent
代码知识图谱
Tree-sitter
MCP 协议
知识图谱
代码解析
AI编程
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
编程
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
2026-07-07 16:15:25 +0800 CST
view 76
深入解析2026年大模型推理中的KV Cache优化技术栈:从PagedAttention虚拟分页管理、Prefix Caching缓存复用、Speculative Decoding并行验证,到INT8量化与Continuous Batching生产实践,配合代码示例与性能对比,助你系统性掌握LLM推理优化的核心要领。
LLM
KV Cache
PagedAttention
Prefix Caching
vLLM
推理优化
Speculative Decoding
FinceptTerminal 深度实战:当 C++20 遇上金融终端——从 Qt6 原生渲染到 37 个 AI 智能体与 QuantLib 量化引擎的生产级完全指南(2026)
编程
FinceptTerminal 深度实战:当 C++20 遇上金融终端——从 Qt6 原生渲染到 37 个 AI 智能体与 QuantLib 量化引擎的生产级完全指南(2026)
2026-06-14 22:28:06 +0800 CST
view 353
开源金融终端 Fincept Terminal v4 深度实战:C++20 原生渲染、37 个 AI 投资智能体、QuantLib 18 模块量化引擎、100+ 数据源、16 家券商接入
FinceptTerminal
C++20
Qt6
金融终端
量化交易
AI智能体
QuantLib
开源金融
vLLM 深度实战:当 LLM 推理遇上 PagedAttention——从 KV 缓存管理到生产级高并发服务的完全指南(2026)
编程
vLLM 深度实战:当 LLM 推理遇上 PagedAttention——从 KV 缓存管理到生产级高并发服务的完全指南(2026)
2026-06-08 22:52:24 +0800 CST
view 459
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构,以及生产环境部署的最佳实践。
vLLM
PagedAttention
LLM推理
KV缓存
分布式推理
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
编程
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
2026-06-08 22:53:03 +0800 CST
view 281
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构,以及生产环境部署的最佳实践。
vLLM
PagedAttention
LLM推理
KV缓存
分布式推理
2026年AI架构突破全景解析:从 Kimi Attention Residuals 到存算一体——告别参数内卷,走向效率革命
编程
2026年AI架构突破全景解析:从 Kimi Attention Residuals 到存算一体——告别参数内卷,走向效率革命
2026-05-30 09:40:11 +0800 CST
view 530
深度解析2026年AI架构五大突破:Attention Residuals、存算一体、多模态原生、自我学习、量子AI,从算法到硬件全方位革新
AI架构
Attention Residuals
存算一体
量子AI
多模态原生
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
编程
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
2026-07-09 09:17:24 +0800 CST
view 160
深入剖析 2026 年大模型推理引擎核心技术:PagedAttention、Continuous Batching、Chunked Prefill、RadixAttention 前缀缓存、投机解码与 AWQ/GPTQ/FP8 量化,结合 vLLM 与 SGLang 部署实战,把 GPU 利用率榨到极限的生产级完全指南。
LLM推理引擎
vLLM
SGLang
推理优化
量化部署
投机解码
GPU利用率
KV Cache
PagedAttention
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
3
4
5
6
7
...
75
下一页