程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
编程
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
2026-06-30 11:16:18 +0800 CST
view 227
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
编程
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
2026-06-30 11:17:15 +0800 CST
view 260
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
万字深度解析 MoneyPrinterTurbo:当 LLM 遇见视频自动化——从 5 步 Pipeline 到 100+ 模型接入的生产级实战(2026)
编程
万字深度解析 MoneyPrinterTurbo:当 LLM 遇见视频自动化——从 5 步 Pipeline 到 100+ 模型接入的生产级实战(2026)
2026-07-01 10:45:38 +0800 CST
view 206
深度解析MoneyPrinterTurbo开源项目:AI全自动短视频生成框架,涵盖5步Pipeline、100+LLM模型接入、9种TTS方案、FFmpeg视频合成与性能优化实战(2026)
MoneyPrinterTurbo
AI视频
LLM
视频自动化
短视频
开源项目
Python
FFmpeg
TTS
LiteLLM
PyTorch 2.13 深度解析:一次把框架换心与跨平台革命讲透
编程
PyTorch 2.13 深度解析:一次把框架换心与跨平台革命讲透
2026-07-14 01:14:51 +0800 CST
view 224
2026年7月PyTorch 2.13重磅发布:FlexAttention在Apple Silicon实现12倍加速、CuTeDSL提供CUTLASS级GEMM代码生成、融合损失函数将大词汇量训练峰值显存削减4倍、torchcomms革新分布式通信后端、ExecuTorch正式并入核心,深度拆解六大核心更新与实战代码。
PyTorch
深度学习
机器学习框架
GPU
Distributed Training
FlexAttention
CUDA
GEMM
ROCm
Apple Silicon
MPS
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
编程
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
2026-06-27 12:44:29 +0800 CST
view 271
2026年LLM推理引擎深度实战:从PagedAttention、连续批处理、量化技术到生产级K8s部署,万字长文覆盖vLLM、SGLang、TensorRT-LLM、TGI四大框架架构原理与实测对比
LLM推理
vLLM
PagedAttention
SGLang
推理优化
TensorRT-LLM
生产部署
KV Cache
量化
LLM 推理的显存战争:从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析(2026)
编程
LLM 推理的显存战争:从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析(2026)
2026-06-15 11:18:23 +0800 CST
view 372
深度解析大模型推理中 KV Cache 管理的五世代演进:从连续分配到 PagedAttention,再到异构缓存、分布式 KV 和统一混合内存架构。结合 vLLM、SGLang、TensorRT-LLM 给出生产环境选型指南。
LLM
大模型
KVCache
PagedAttention
vLLM
SGLang
TensorRT
推理优化
显存管理
分布式
.NET 11 Preview 4 深度实战:Runtime-Async 革命、Process API 重生、MCP Server 模板——微软如何用一次预览版重新定义后端开发范式
编程
.NET 11 Preview 4 深度实战:Runtime-Async 革命、Process API 重生、MCP Server 模板——微软如何用一次预览版重新定义后端开发范式
2026-05-16 09:44:07 +0800 CST
view 483
.NET 11 Preview 4 深度解析:Runtime-Async 全面启用、Process API 大规模扩展、MCP Server 模板、EF Core 向量搜索、Blazor 电路暂停恢复
.NET 11
Runtime-Async
ASP.NET Core
MCP
EF Core
Process API
Blazor
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
2026-06-10 10:17:56 +0800 CST
view 353
深度解析 vLLM 的核心架构 PagedAttention 和 Continuous Batching,从内存管理原理到生产级分布式部署的完全指南。
vLLM
LLM推理
PagedAttention
GPU优化
大模型部署
AI推理
GitNexus 深度实战:当代码智能遇见「零服务器」架构——从知识图谱到 MCP 集成的生产级完全指南(2026)
编程
GitNexus 深度实战:当代码智能遇见「零服务器」架构——从知识图谱到 MCP 集成的生产级完全指南(2026)
2026-06-16 05:18:22 +0800 CST
view 381
GitNexus 正在重新定义 AI 辅助编程的边界——通过浏览器端知识图谱构建、Tree-sitter 多语言解析、LadybugDB 原生存储,以及 MCP 协议集成,让 AI Agents 能够真正「理解」你的代码库。本文深入剖析 GitNexus 的架构设计、核心技术栈、实战部署流程,以及生产环境中的性能优化技巧。
GitNexus
代码知识图谱
MCP
AI Agent
Tree-sitter
零服务器
Understand Anything 深度实战:让 AI Agent 把 20 万行代码库变成可交互知识图谱——从 Tree-sitter 静态解析到多智能体流水线的完全指南(2026)
编程
Understand Anything 深度实战:让 AI Agent 把 20 万行代码库变成可交互知识图谱——从 Tree-sitter 静态解析到多智能体流水线的完全指南(2026)
2026-06-02 00:54:58 +0800 CST
view 402
深度解析 Understand Anything 如何用 Tree-sitter 静态解析 + LLM 语义理解双引擎,通过 7 个专业 Agent 流水线将大型代码库转化为可交互知识图谱,包含完整代码实战和性能优化策略。
代码知识图谱
AI Agent
Tree-sitter
代码理解
多智能体
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
编程
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
2026-06-29 17:16:04 +0800 CST
view 440
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
编程
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
2026-06-29 17:17:00 +0800 CST
view 204
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
SGLang深度解析:RadixAttention架构下的大模型推理革命——从零到生产的高性能LLM服务框架实战指南
编程
SGLang深度解析:RadixAttention架构下的大模型推理革命——从零到生产的高性能LLM服务框架实战指南
2026-07-05 18:13:38 +0800 CST
view 321
深度解析SGLang高性能大模型推理框架:RadixAttention自动前缀缓存、零开销C++调度器、PD分离架构、多LoRA批处理、推测解码。含完整代码实战与vLLM/TensorRT-LLM对比。
SGLang
RadixAttention
LLM
推理引擎
大模型
vLLM
GPU
高并发
AI基础设施
性能优化
SGLang 深度拆解:当 LLM 推理引擎学会「结构化生成」与前缀复用——从 RadixAttention、约束解码到生产级高吞吐部署的工程全貌(2026)
编程
SGLang 深度拆解:当 LLM 推理引擎学会「结构化生成」与前缀复用——从 RadixAttention、约束解码到生产级高吞吐部署的工程全貌(2026)
2026-07-18 02:45:17 +0800 CST
view 78
深度拆解 SGLang:RadixAttention 跨请求前缀复用、约束解码让 JSON 快 10 倍、DP Attention 为 DeepSeek MLA 而生,配 DSL/分布式/量化代码实战与生产调优清单。
SGLang
LLM推理
RadixAttention
约束解码
大模型服务化
高吞吐
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
2026-06-11 03:16:24 +0800 CST
view 403
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
编程
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
2026-06-11 03:17:21 +0800 CST
view 748
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
GitNexus 深度实战:当 AI Coding Agent 学会「看懂代码架构」——从 Tree-sitter 多语言 AST 解析到 MCP 协议暴露知识图谱的生产级完全指南(2026)
编程
GitNexus 深度实战:当 AI Coding Agent 学会「看懂代码架构」——从 Tree-sitter 多语言 AST 解析到 MCP 协议暴露知识图谱的生产级完全指南(2026)
2026-06-11 09:48:52 +0800 CST
view 460
GitNexus 深度实战:从 Tree-sitter 多语言 AST 解析到 MCP 协议暴露知识图谱,让 AI Coding Agent 学会看懂代码架构,彻底解决盲改问题。
GitNexus
代码知识图谱
Tree-sitter
MCP协议
AI Coding Agent
AST解析
TypeScript
Graphify 深度拆解:当 AI 编程助手学会「看图说话」——从 tree-sitter 确定性解析、Claude Subagents 语义推断到零向量数据库知识图谱的工程全貌(2026)
编程
Graphify 深度拆解:当 AI 编程助手学会「看图说话」——从 tree-sitter 确定性解析、Claude Subagents 语义推断到零向量数据库知识图谱的工程全貌(2026)
2026-07-19 11:14:04 +0800 CST
view 86
深度拆解 Graphify:90k+ 星标的 AI 编程助手知识图谱工具,从 tree-sitter 确定性解析、Claude Subagents 语义推断、Leiden 社区发现到零向量数据库的多模态代码理解工程全貌,配完整代码示例与生产部署指南。
Graphify
AI Agent
知识图谱
Tree-sitter
代码分析
Claude
AI编程
Python
开源
Token优化
GitNexus 深度实战:零服务器代码知识图谱引擎——从 WASM 解析原理到 MCP 协议集成的完全指南(2026)
编程
GitNexus 深度实战:零服务器代码知识图谱引擎——从 WASM 解析原理到 MCP 协议集成的完全指南(2026)
2026-06-04 00:45:40 +0800 CST
view 456
GitNexus 深度实战:零服务器代码知识图谱引擎——从 WASM 解析原理到 MCP 协议集成的完全指南(2026) 摘要:接手"屎山代码"时,AI 助手总是幻觉出不存在的函数;代码搜索工具要把整个仓库推到云端;IDE 插件只告诉你"这个函数被调用了 3 次",却不告诉你"为什么被调用"。GitNexus 把整个代码库在浏览器本地构建成可查询的知识图谱,通过 MCP 协议直接暴露给 Clau...
GitNexus
代码知识图谱
MCP
Tree-sitter
AI Agent
Understand-Anything 深度实战:当代码库学会「讲故事」——从 Tree-sitter AST 到多 Agent 知识图谱的完全指南(2026)
编程
Understand-Anything 深度实战:当代码库学会「讲故事」——从 Tree-sitter AST 到多 Agent 知识图谱的完全指南(2026)
2026-06-13 11:51:50 +0800 CST
view 511
55.5K Stars的GitHub热榜项目,Understand-Anything通过Tree-sitter AST + 多Agent LLM流水线,让代码库变成可交互的知识图谱。本文从架构原理、源码实现、生产级应用场景、性能调优等维度全面拆解。适合接手续留代码、代码审查、架构重构等场景。
Understand-Anything
代码知识图谱
Tree-sitter
多Agent
Claude Code
开源工具
AI编程
vLLM 深度解析:LLM 推理性能的终极引擎——从 PagedAttention 到生产级部署的完整技术内幕
编程
vLLM 深度解析:LLM 推理性能的终极引擎——从 PagedAttention 到生产级部署的完整技术内幕
2026-05-18 08:22:35 +0800 CST
view 686
全面解析 vLLM 推理引擎的核心架构,从 PagedAttention 原理到生产级部署实战,涵盖量化推理、多GPU并行、性能调优等完整技术栈
vLLM
LLM推理
PagedAttention
GPU优化
量化推理
深度解析
万字深度解析 CodeGraph:当 AI Agent 遇见代码知识图谱——从 Tree-sitter 解析到 MCP 协议输出的完整技术指南(2026)
编程
万字深度解析 CodeGraph:当 AI Agent 遇见代码知识图谱——从 Tree-sitter 解析到 MCP 协议输出的完整技术指南(2026)
2026-07-02 04:45:49 +0800 CST
view 207
深度解析 CodeGraph 开源项目:为 AI 编程 Agent 预构建代码知识图谱,通过 Tree-sitter 多语言解析、SQLite 存储、MCP 协议输出,实现 Token 消耗减少 60-90%、响应速度提升 5-15 倍。含完整源码分析、生产级集成实战。
CodeGraph
AI Agent
代码知识图谱
Tree-sitter
MCP 协议
知识图谱
代码解析
AI编程
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
编程
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
2026-07-07 16:15:25 +0800 CST
view 94
深入解析2026年大模型推理中的KV Cache优化技术栈:从PagedAttention虚拟分页管理、Prefix Caching缓存复用、Speculative Decoding并行验证,到INT8量化与Continuous Batching生产实践,配合代码示例与性能对比,助你系统性掌握LLM推理优化的核心要领。
LLM
KV Cache
PagedAttention
Prefix Caching
vLLM
推理优化
Speculative Decoding
万字深度解析 Understand-Anything:当代码库遇见知识图谱革命——从Tree-sitter解析到LLM语义理解、从7个专业Agent到15平台一键集成的完整技术指南(2026)
编程
万字深度解析 Understand-Anything:当代码库遇见知识图谱革命——从Tree-sitter解析到LLM语义理解、从7个专业Agent到15平台一键集成的完整技术指南(2026)
2026-07-03 00:44:41 +0800 CST
view 211
深度解析Understand-Anything代码知识图谱工具:Tree-sitter+LLM双引擎、7专业Agent并行流水线、三种知识图谱视图、15平台集成,含完整实战指南
Understand-Anything
Code Knowledge Graph
Tree-sitter
LLM
Agent
Code Analysis
Knowledge Graph
AI Coding
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
4
5
6
...
80
下一页