程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
百度 Unlimited OCR 深度解析:R-SWA 如何把 KV Cache 从线性增长压成常数,端到端 OCR 的长文档革命
编程
百度 Unlimited OCR 深度解析:R-SWA 如何把 KV Cache 从线性增长压成常数,端到端 OCR 的长文档革命
2026-06-29 19:45:14 +0800 CST
view 203
深度解析百度开源的 Unlimited OCR:R-SWA 如何把 KV Cache 从线性增长压成常数,解决长文档 OCR 的失忆问题,OmniDocBench v1.6 刷新 SOTA 93.92%
Unlimited OCR
百度
OCR
端到端
长文档
R-SWA
开源
深度学习
文档解析
Markdown
SGLang深度解析:RadixAttention架构下的大模型推理革命——从零到生产的高性能LLM服务框架实战指南
编程
SGLang深度解析:RadixAttention架构下的大模型推理革命——从零到生产的高性能LLM服务框架实战指南
2026-07-05 18:13:38 +0800 CST
view 330
深度解析SGLang高性能大模型推理框架:RadixAttention自动前缀缓存、零开销C++调度器、PD分离架构、多LoRA批处理、推测解码。含完整代码实战与vLLM/TensorRT-LLM对比。
SGLang
RadixAttention
LLM
推理引擎
大模型
vLLM
GPU
高并发
AI基础设施
性能优化
MCP 2026-07 规范深度解析:从工具调用协议到生产级 Agent 基础设施
编程
MCP 2026-07 规范深度解析:从工具调用协议到生产级 Agent 基础设施
2026-07-23 18:45:50 +0800 CST
view 14
深度解析MCP 2026-07规范核心变化:无状态核心、能力发现与治理、任务体系、结构化交付,以及企业级落地实践。程序员视角的技术指南。
MCP
Model Context Protocol
AI Agent
A2A
协议
生产级
无状态
JSON Schema
链路追踪
企业级
SGLang 深度拆解:当 LLM 推理引擎学会「结构化生成」与前缀复用——从 RadixAttention、约束解码到生产级高吞吐部署的工程全貌(2026)
编程
SGLang 深度拆解:当 LLM 推理引擎学会「结构化生成」与前缀复用——从 RadixAttention、约束解码到生产级高吞吐部署的工程全貌(2026)
2026-07-18 02:45:17 +0800 CST
view 93
深度拆解 SGLang:RadixAttention 跨请求前缀复用、约束解码让 JSON 快 10 倍、DP Attention 为 DeepSeek MLA 而生,配 DSL/分布式/量化代码实战与生产调优清单。
SGLang
LLM推理
RadixAttention
约束解码
大模型服务化
高吞吐
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
2026-06-11 03:16:24 +0800 CST
view 414
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
CUDA Tile 深度拆解:当 GPU 编程从「线程思维」跃迁到「数据块思维」——从 Tile IR、cuTile Python 到 Blackwell 硬件映射的工程全貌(2026)
编程
CUDA Tile 深度拆解:当 GPU 编程从「线程思维」跃迁到「数据块思维」——从 Tile IR、cuTile Python 到 Blackwell 硬件映射的工程全貌(2026)
2026-07-18 03:17:24 +0800 CST
view 91
深度拆解 NVIDIA CUDA 13.1 Tile 编程模型:从 SIMT 到 Tile-based 的范式革命、Tile IR 虚拟指令集、cuTile Python DSL、与 Triton 的竞争格局、Flash Attention 实战案例、完整迁移指南与性能优化技巧。
CUDA
GPU编程
cuTile
Tile IR
Blackwell
Tensor Core
高性能计算
深度学习
Python
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
编程
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
2026-06-11 03:17:21 +0800 CST
view 754
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
Linux 7.2 内核深度解析:Intel Xe3 架构驱动 Arc B390 核显性能跃升 12% 的技术内幕
编程
Linux 7.2 内核深度解析:Intel Xe3 架构驱动 Arc B390 核显性能跃升 12% 的技术内幕
2026-07-23 20:15:41 +0800 CST
view 14
深度解析 Linux 7.2 内核如何让 Intel Xe3 架构的 Arc B390 核显性能提升 12%。涵盖 Xe3 架构设计、GuC 批量命令提交、显存预分配策略、智能电源管理、AI 推理优化实战。
Linux
Intel
Xe3
Arc B390
GPU
i915
内核优化
图形驱动
光线追踪
AI推理
大模型推理框架 2026 终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构内核、性能基准到成本防线的生产级全景解析
编程
大模型推理框架 2026 终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构内核、性能基准到成本防线的生产级全景解析
2026-07-11 13:14:24 +0800 CST
view 183
深度拆解2026年四大主流LLM推理框架(vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9)的技术内核,通过统一性能基准测试,量化对比吞吐量、延迟、成本等核心指标,提供不同场景的技术选型建议和实战代码示例。
大模型
推理优化
vLLM
TensorRT
性能调优
成本控制
生产部署
Go 1.26 深度实战:Green Tea GC 让垃圾回收驶上高速公路、new(expr) 终结指针初始化之痛、go fix 20+ 现代化器一键重构——从页级扫描到 AVX-512 向量加速、从迭代器生态到生产级升级决策的完全指南(2026)
编程
Go 1.26 深度实战:Green Tea GC 让垃圾回收驶上高速公路、new(expr) 终结指针初始化之痛、go fix 20+ 现代化器一键重构——从页级扫描到 AVX-512 向量加速、从迭代器生态到生产级升级决策的完全指南(2026)
2026-06-22 10:27:54 +0800 CST
view 278
Go 1.26 深度实战:Green Tea GC 页级扫描与 AVX-512 向量加速降低 GC CPU 10%~40%、new(expr) 终结指针初始化之痛、go fix 20+ 现代化器一键重构、迭代器生态全面成熟的生产级完全指南
Go
Green Tea GC
go fix
迭代器
AVX-512
MCP 2026 深度解析:AI推理性能瓶颈诊断的12个隐性耗时陷阱——从TensorRT-LLM到vLLM再到Triton的全引擎实战
编程
MCP 2026 深度解析:AI推理性能瓶颈诊断的12个隐性耗时陷阱——从TensorRT-LLM到vLLM再到Triton的全引擎实战
2026-04-30 14:21:13 +0800 CST
view 550
深度解析MCP 2026基准测试框架,拆解TensorRT-LLM、vLLM、Triton三大推理引擎的12个隐性耗时陷阱,提供可落地的诊断方法与修复路径。
AI推理
性能优化
TensorRT-LLM
vLLM
Triton
MCP2026
GPU优化
Go 1.26 深度解析:绿茶GC默认启用与语言层级的工程革命
编程
Go 1.26 深度解析:绿茶GC默认启用与语言层级的工程革命
2026-06-30 06:14:10 +0800 CST
view 266
深度解析Go 1.26:Green Tea垃圾回收器默认启用、new(expr)语法糖、泛型自引用、go fix现代化工具链、goroutine泄漏检测、堆地址随机化、crypto/hpke后量子加密等核心新特性,附完整代码实战与生产级升级指南
Go
golang
Go1.26
GreenTeaGC
垃圾回收
泛型
Go 1.26 万字深度解析:Green Tea GC / new(expr) / go fix 现代化工具链 / goroutine泄漏检测全景指南
编程
Go 1.26 万字深度解析:Green Tea GC / new(expr) / go fix 现代化工具链 / goroutine泄漏检测全景指南
2026-06-30 06:14:29 +0800 CST
view 228
深度解析Go 1.26:Green Tea垃圾回收器默认启用、new(expr)语法糖、泛型自引用、go fix现代化工具链、goroutine泄漏检测、堆地址随机化、crypto/hpke后量子加密等核心新特性,附完整代码实战与生产级升级指南
Go
golang
Go1.26
GreenTeaGC
垃圾回收
泛型
Go 语言 2026 深度拆解:当云原生之王迎来 SIMD、分代 GC 与 AI 原生的「三重觉醒」
编程
Go 语言 2026 深度拆解:当云原生之王迎来 SIMD、分代 GC 与 AI 原生的「三重觉醒」
2026-07-18 07:42:42 +0800 CST
view 108
深度拆解 Go 语言 2026 年核心演进:分代 GC(Green Tea)P99 停顿降 75%、SIMD 原生 API 让 Go 向量化计算从无到有、微软 ms-ai-go SDK 正式入场 AI、字节 Eino 框架重塑 Go Agent 生态。完整代码实战与性能基准。
Go语言
Golang
SIMD
分代GC
Green Tea GC
AI推理
ms-ai-go
Eino
MCP协议
性能优化
NUMA
Svelte 5 深度解析:编译时框架的革命——细粒度响应、零运行时与Runes系统如何颠覆前端开发
编程
Svelte 5 深度解析:编译时框架的革命——细粒度响应、零运行时与Runes系统如何颠覆前端开发
2026-05-11 03:18:04 +0800 CST
view 442
Svelte 5深度解析:Runes系统、细粒度响应、零运行时开销如何颠覆前端开发
Svelte,前端框架,JavaScript,编译时优化,响应式编程
LLM推理引擎终极对决:vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
编程
LLM推理引擎终极对决:vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
2026-04-20 13:45:31 +0800 CST
view 785
深度对比vLLM与TensorRT-LLM两大LLM推理框架,从PagedAttention到Kernel Fusion,从量化技术到生产部署,助你做出正确的技术选型决策
LLM
vLLM
TensorRT-LLM
推理优化
大模型部署
量化技术
AI工程
Temporal 深度实战:当持久化执行遇见 AI Agent 时代——从 Event History 到 Serverless Workers、Workflow Streams 与 MCP 调试的生产级完全指南(2026)
编程
Temporal 深度实战:当持久化执行遇见 AI Agent 时代——从 Event History 到 Serverless Workers、Workflow Streams 与 MCP 调试的生产级完全指南(2026)
2026-06-17 07:29:34 +0800 CST
view 370
深度解析Temporal持久化执行架构,覆盖Replay 2026四大新特性、AI Agent编排实战、Go/Python SDK代码、生产级调优与排障指南
Temporal
Durable Execution
AI Agent
Workflow
分布式系统
vLLM 0.5 深度拆解:当 PagedAttention 重塑 LLM 推理内存——从 OS 分页思想到 MoE 分布式推理的工程全貌(2026)
编程
vLLM 0.5 深度拆解:当 PagedAttention 重塑 LLM 推理内存——从 OS 分页思想到 MoE 分布式推理的工程全貌(2026)
2026-07-18 13:17:37 +0800 CST
view 99
深度拆解 vLLM 0.5 的 PagedAttention 核心原理、连续批处理架构、MoE 推理优化、分布式部署策略,以及 2026 年四大推理框架生产级性能横评。
vLLM
PagedAttention
LLM推理
ContinuousBatching
MoE
FusedMoE
量化
分布式推理
Engram 深度实战:当 AI 编程助手终于学会「记住」——从 SQLite FTS5 内核、MCP 协议到 Git 同步与 Cloud 复制的生产级完全指南
编程
Engram 深度实战:当 AI 编程助手终于学会「记住」——从 SQLite FTS5 内核、MCP 协议到 Git 同步与 Cloud 复制的生产级完全指南
2026-07-12 08:44:12 +0800 CST
view 189
深度解析 Engram:AI Coding Agent 的持久化记忆系统,从 SQLite FTS5 全文检索内核、MCP 协议、20 个工具、Git 同步到 Cloud 复制,配生产级实战案例与性能优化指南。
Engram
AI编程
MCP
SQLite
FTS5
记忆系统
Claude Code
Cursor
Windsurf
百度 Unlimited-OCR 深度解析:R-SWA 注意力机制如何用 3B 参数打爆百亿模型
编程
百度 Unlimited-OCR 深度解析:R-SWA 注意力机制如何用 3B 参数打爆百亿模型
2026-06-30 16:16:03 +0800 CST
view 221
2026年6月百度开源Unlimited-OCR深度解析:R-SWA参考滑动窗口注意力机制将KV Cache从线性增长压成常数,3B MoE模型用500M激活参数在OmniDocBench上以93.92%总分刷新SOTA,打爆Qwen3-VL 72B和Gemini 2.5 Pro。万字长文从架构原理到代码实战全覆盖。
Unlimited-OCR
端到端OCR
R-SWA
百度
注意力机制
大模型
MoE
深度学习
AI开源
文档解析
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
编程
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
2026-05-17 10:21:56 +0800 CST
view 547
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
百度Unlimited-OCR深度解析:R-SWA常量KV缓存如何让OCR一口气吃下几十页文档——从单图解析到多页PDF的完整实战指南
编程
百度Unlimited-OCR深度解析:R-SWA常量KV缓存如何让OCR一口气吃下几十页文档——从单图解析到多页PDF的完整实战指南
2026-07-06 11:16:05 +0800 CST
view 225
深度解析百度开源Unlimited-OCR:13K+ Stars,R-SWA常量KV缓存让端到端OCR模型在32K上下文下一次性转录几十页文档。从架构设计到vLLM/SGLang生产部署完整实战指南。
Unlimited-OCR
百度
R-SWA
OCR
KV缓存
文档解析
长文档
vLLM
Context-Mode 深度拆解:AI 编程代理的上下文救星——98% 压缩比背后的技术革命
编程
Context-Mode 深度拆解:AI 编程代理的上下文救星——98% 压缩比背后的技术革命
2026-05-02 08:05:40 +0800 CST
view 883
深度拆解 GitHub Trending 开源项目 Context-Mode:通过沙箱隔离、会话连续性、代码思维和输出压缩四维度,实现 AI 编程代理上下文窗口 98% 压缩,支持 14 个平台
AI编程
上下文优化
MCP
Context-Mode
AI Agent
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
编程
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
2026-05-17 10:22:13 +0800 CST
view 525
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
91
92
93
94
95
...
98
下一页