程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
vLLM 深度拆解:当 KV Cache 学会「分页」——用操作系统智慧重写 LLM 推理的心智模型
编程
vLLM 深度拆解:当 KV Cache 学会「分页」——用操作系统智慧重写 LLM 推理的心智模型
2026-07-15 10:13:07 +0800 CST
view 182
深度拆解 vLLM 核心架构:从 PagedAttention 分页内存管理、Continuous Batching 动态调度,到 Speculative Decoding、Prefix Caching 等高级特性,配完整代码示例与生产部署指南。
vLLM
PagedAttention
LLM推理
深度学习
GPU优化
Continuous Batching
vLLM 深度实战:当 LLM 推理遇上 PagedAttention——从 KV 缓存管理到生产级高并发服务的完全指南(2026)
编程
vLLM 深度实战:当 LLM 推理遇上 PagedAttention——从 KV 缓存管理到生产级高并发服务的完全指南(2026)
2026-06-08 22:52:24 +0800 CST
view 674
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构,以及生产环境部署的最佳实践。
vLLM
PagedAttention
LLM推理
KV缓存
分布式推理
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
编程
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
2026-06-08 22:53:03 +0800 CST
view 405
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构,以及生产环境部署的最佳实践。
vLLM
PagedAttention
LLM推理
KV缓存
分布式推理
LLM 推理框架选型实战:vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
编程
LLM 推理框架选型实战:vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
2026-07-03 13:49:04 +0800 CST
view 375
深度对比 vLLM 0.5、TensorRT-LLM 1.8、TGI 2.0、DeepSpeed-MII 0.9 四大推理框架,从核心技术原理、性能数据、成本账本到生产部署实战,帮你做出正确的框架选型决策。
LLM
vLLM
TensorRT-LLM
TGI
DeepSpeed
推理优化
大模型部署
GPU优化
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
编程
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
2026-07-09 09:17:24 +0800 CST
view 401
深入剖析 2026 年大模型推理引擎核心技术:PagedAttention、Continuous Batching、Chunked Prefill、RadixAttention 前缀缓存、投机解码与 AWQ/GPTQ/FP8 量化,结合 vLLM 与 SGLang 部署实战,把 GPU 利用率榨到极限的生产级完全指南。
LLM推理引擎
vLLM
SGLang
推理优化
量化部署
投机解码
GPU利用率
KV Cache
PagedAttention
百度 Unlimited OCR 深度解析:端到端长文档 OCR 的新范式——从 R-SWA 机制到 3B 参数模型、从 KV Cache 压缩到生产级部署的完整技术指南(2026)
编程
百度 Unlimited OCR 深度解析:端到端长文档 OCR 的新范式——从 R-SWA 机制到 3B 参数模型、从 KV Cache 压缩到生产级部署的完整技术指南(2026)
2026-07-04 03:13:57 +0800 CST
view 363
2026年6月百度开源Unlimited OCR,5天GitHub Star破1万。深度解析R-SWA机制、3B参数模型架构、KV Cache压缩原理,含完整部署代码与生产级应用案例。
百度
Unlimited OCR
OCR
R-SWA
KV Cache
长文档识别
端到端OCR
多模态模型
vLLM 推理引擎源码级拆解:PagedAttention 显存虚拟化、Continuous Batching 调度与量化落地全指南
编程
vLLM 推理引擎源码级拆解:PagedAttention 显存虚拟化、Continuous Batching 调度与量化落地全指南
2026-07-27 03:44:38 +0800 CST
view 127
从显存字节到 CUDA kernel 源码级拆解 vLLM:PagedAttention 分页显存管理、Continuous Batching 连续批处理调度、Prefix Caching 前缀缓存与量化/投机解码实战,附完整代码与生产调参踩坑清单。
vLLM
PagedAttention
大模型推理
KV Cache
显存优化
连续批处理
量化
LLM Serving
百度 Unlimited OCR 深度实战:30亿参数仅激活5亿、R-SWA注意力革命——长文档OCR端到端SOTA完全指南(2026)
编程
百度 Unlimited OCR 深度实战:30亿参数仅激活5亿、R-SWA注意力革命——长文档OCR端到端SOTA完全指南(2026)
2026-06-28 06:43:54 +0800 CST
view 505
百度2026年6月开源Unlimited OCR:30亿参数仅激活5亿,R-SWA注意力把KV Cache压成常数,一次前向推理处理几十页文档,OmniDocBench v1.6得分93.92%刷新SOTA。
百度 Unlimited OCR
OCR
R-SWA
长文档
端到端
MoE
SGLang
LLM 推理优化全景实战:从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命(2026)
编程
LLM 推理优化全景实战:从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命(2026)
2026-05-30 15:42:55 +0800 CST
view 543
深度解析 LLM 推理优化的核心技术:PagedAttention 内存管理革命、投机解码加速策略、INT4/FP8 量化技术、MoE 架构优化,从架构原理到代码实战,让大模型推理成本下降 70%。
LLM
推理优化
vLLM
PagedAttention
投机解码
量化
MoE
vLLM 深度拆解:当大模型推理学会「分页注意力」——PagedAttention、连续批处理与 V1 引擎如何重写 GPU 推理服务的心智模型
编程
vLLM 深度拆解:当大模型推理学会「分页注意力」——PagedAttention、连续批处理与 V1 引擎如何重写 GPU 推理服务的心智模型
2026-07-16 04:19:16 +0800 CST
view 205
从工程师视角深度拆解 vLLM:PagedAttention 分页注意力、连续批处理、V1 引擎架构、KV Cache 管理、量化与投机解码,配 OpenAI 兼容服务、引导解码与生产调优实战。
vLLM
PagedAttention
连续批处理
大模型推理
GPU推理服务
KV缓存
V1引擎
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
编程
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
2026-08-03 09:43:58 +0800 CST
view 30
深度拆解vLLM V1引擎四大核心架构:PagedAttention V2融合块表与前缀树缓存、分离式推理Prefill/Decode架构、KV Connector标准化接口、LMCache三层KV Cache管理,附完整部署配置与性能基准测试
vLLM
PagedAttention
LMCache
分离式推理
大模型推理
KV Cache
推理引擎
LLM Serving
GPU优化
开源
百度 Unlimited OCR 深度解析:R-SWA 如何让长文档 OCR 从"逐页煎熬"走向"一次搞定"
编程
百度 Unlimited OCR 深度解析:R-SWA 如何让长文档 OCR 从"逐页煎熬"走向"一次搞定"
2026-06-28 14:13:06 +0800 CST
view 432
深度解析百度 Unlimited OCR 的 R-SWA 参考滑动窗口注意力机制,如何将 KV Cache 从线性增长压到常数,使长文档 OCR 性能恒定不衰减。含完整架构分析、训练配方、性能基准和实战代码。
Unlimited OCR
R-SWA
OCR
端到端
百度
文档识别
KV Cache
MoE
DeepEncoder
长文档处理
Drizzle ORM v1.0 深度拆解:当 TypeScript ORM 决定「干掉一切中间层」——JIT Row Mapper、0 依赖架构与 Edge 原生哲学如何重新定义数据库操作的性能天花板
编程
Drizzle ORM v1.0 深度拆解:当 TypeScript ORM 决定「干掉一切中间层」——JIT Row Mapper、0 依赖架构与 Edge 原生哲学如何重新定义数据库操作的性能天花板
2026-08-03 21:12:46 +0800 CST
view 27
深度拆解Drizzle ORM v1.0四大核心架构:JIT Row Mapper把ORM开销压到接近零、零依赖280KB极小体积Edge原生、Effect v4原生集成、双查询API SQL-like+Relational,附完整生产级代码示例与Drizzle vs Prisma性能基准对比
Drizzle ORM
TypeScript ORM
JIT
Edge Computing
Serverless
PostgreSQL
SQLite
Bun
性能优化
开源
vLLM 0.5 深度解析:PagedAttention 架构原理与生产级 LLM 推理优化实战
编程
vLLM 0.5 深度解析:PagedAttention 架构原理与生产级 LLM 推理优化实战
2026-07-04 18:15:46 +0800 CST
view 351
深度解析 vLLM 0.5 的 PagedAttention 架构原理,涵盖 KV Cache 分页管理、MoE 优化、分布式推理、量化技术,并通过代码实战和性能对比,帮助开发者掌握生产级 LLM 推理最佳实践。
vLLM
PagedAttention
LLM推理
CUDA
KV Cache
深度学习
AI基础设施
Python
生产部署
性能优化
Graphify 深度解析:当 AI 终于学会「把混乱变成图谱」
编程
Graphify 深度解析:当 AI 终于学会「把混乱变成图谱」
2026-04-09 07:07:53 +0800 CST
view 1572
Graphify深度解析:71.5倍Token压缩、多模态理解、零服务器依赖的Claude Code知识工程利器
Graphify
Knowledge Graph
Claude Code
AI Agent
GraphRAG
MySQL 9.x VECTOR 实战:开源版没有向量索引也没有 DISTANCE,手把手把 MySQL 改造成 RAG 向量库
编程
MySQL 9.x VECTOR 实战:开源版没有向量索引也没有 DISTANCE,手把手把 MySQL 改造成 RAG 向量库
2026-07-23 05:14:15 +0800 CST
view 136
扒开 MySQL 9.x VECTOR 类型的底:社区版没有向量索引也没有 DISTANCE 函数,手把手用 SQL 预过滤 + NumPy 把 MySQL 改造成可用的 RAG 向量库。
MySQL 9.x
VECTOR 类型
向量检索
RAG
embedding
MySQL 社区版
template-vue3-gin-fullstack:Vue3+Go Gin前后端分离全栈项目模板,开箱即用
案例
template-vue3-gin-fullstack:Vue3+Go Gin前后端分离全栈项目模板,开箱即用
2026-05-09 10:27:01 +0800 CST
view 547
template-vue3-gin-fullstack:一款基于Vue3+Go Gin的前后端分离全栈项目模板。技术栈涵盖Vue3.4+TypeScript5+Vite5+Pinia+TailwindCSS前端,以及Go1.22+Gin1.9+GORM+PostgreSQL+Redis+JWT+Zap后端。目录分层清晰(Handler/Service/Repository),JWT认证、Swagger文档、GitHub Actions CI/CD全部配好,clone即可开写业务代码。
全栈模板
Vue3
Go Gin
前后端分离
TypeScript
项目架构
CI/CD
GitHub Actions
PostgreSQL
Redis
JWT
Valkey 深度拆解:当 Redis 把钥匙交出去——从异步 I/O 线程、嵌入式哈希表到 2000 节点集群的工程革命(2026)
编程
Valkey 深度拆解:当 Redis 把钥匙交出去——从异步 I/O 线程、嵌入式哈希表到 2000 节点集群的工程革命(2026)
2026-07-17 08:15:16 +0800 CST
view 230
深度拆解 Valkey:从 Redis 许可证地震、异步 I/O 线程重写、嵌入式哈希表内存优化、双通道复制,到集群原子槽位迁移、2000 节点规模与 RESP3,附 Docker/Go/Lua 集群部署与 Redis 迁移实战。
Valkey
Redis
内存键值数据库
缓存
集群
RESP3
异步IO
Linux基金会
嵌入式哈希表
Milvus 向量数据库深度实战:从零构建生产级 RAG 系统——AI 时代语义检索的架构设计与性能优化
编程
Milvus 向量数据库深度实战:从零构建生产级 RAG 系统——AI 时代语义检索的架构设计与性能优化
2026-05-22 18:14:42 +0800 CST
view 548
深入解析 Milvus 向量数据库的核心原理与架构设计,从向量嵌入、ANN 算法到 RAG 系统实战,涵盖生产环境性能优化技巧,助你构建企业级 AI 应用。
向量数据库
Milvus
RAG
AI
语义检索
向量检索
Embedding
HNSW
ANN
Python 3.14 无 GIL 深度实战:当 CPython 终于解开全局锁,多线程真能起飞吗?
编程
Python 3.14 无 GIL 深度实战:当 CPython 终于解开全局锁,多线程真能起飞吗?
2026-07-11 02:45:04 +0800 CST
view 236
深度拆解 Python 3.14 free-threaded(无 GIL)构建:从 GIL 黑历史、引用计数原子化、_PyMutex、线程安全陷阱,到 CPU 密集多线程基准、C 扩展迁移、子解释器沙箱与生产落地决策框架,附可运行代码。
Python 3.14
无 GIL
free-threaded
多线程
CPython
并发编程
Redis 8.8 深度实战:当原生Array数据结构降临——从窗口限流到Streams NACK、从字段级通知到时序聚合的生产级完全指南(2026)
编程
Redis 8.8 深度实战:当原生Array数据结构降临——从窗口限流到Streams NACK、从字段级通知到时序聚合的生产级完全指南(2026)
2026-06-21 21:23:44 +0800 CST
view 287
Redis 8.8 于 2026 年 5 月正式 GA,带来全新 Array 数据结构、原生命令级窗口限流 INCREX、Streams 消息 NACK 机制、Hash 字段级通知等重磅特性,性能最高提升 83%。
Redis
数据库
性能优化
中间件
后端开发
Valkey 深度拆解:当 Linux 基金会决定「干掉 Redis 的许可证枷锁」——一个 25K Star 的开源分支如何用异步 I/O 重写和 RDMA 支持重新定义内存数据库的性能天花板
编程
Valkey 深度拆解:当 Linux 基金会决定「干掉 Redis 的许可证枷锁」——一个 25K Star 的开源分支如何用异步 I/O 重写和 RDMA 支持重新定义内存数据库的性能天花板
2026-08-04 12:47:12 +0800 CST
view 8
深度拆解Valkey 25K Star开源内存数据库:从Redis许可证分叉到异步I/O重写、RDMA网络层、2000节点集群、Valkey-Search向量搜索,附完整Java/Python代码示例与性能基准对比
Valkey
Redis
内存数据库
开源
缓存
RDMA
Linux基金会
高性能
集群
向量搜索
WorldMonitor 深度拆解:一个人写出的「全球态势感知室」——500+ 信源、双地图引擎与 60+ Edge Function 的无后端架构
编程
WorldMonitor 深度拆解:一个人写出的「全球态势感知室」——500+ 信源、双地图引擎与 60+ Edge Function 的无后端架构
2026-07-28 16:45:43 +0800 CST
view 132
深度拆解 GitHub Trending 项目 WorldMonitor:500+信源AI聚合、CII国家不稳定指数算法、globe.gl+deck.gl双地图引擎、60+ Edge Function无后端架构、Tauri 2桌面端与MCP Agent生态,附完整代码实战与冷思考。
WorldMonitor
OSINT
deck.gl
Tauri
Edge Function
态势感知
开源
TypeScript
MCP
Transformers.js
Pascal Editor 深度实战:当 WebGPU 遇见 3D 建筑可视化——从浏览器零安装到生产级架构的完全指南(2026)
编程
Pascal Editor 深度实战:当 WebGPU 遇见 3D 建筑可视化——从浏览器零安装到生产级架构的完全指南(2026)
2026-06-16 15:34:34 +0800 CST
view 334
Pascal Editor 是一个基于 WebGPU 和 React Three Fiber 构建的开源 3D 建筑编辑器,运行在浏览器中无需安装。本文深度解析其 Monorepo 架构、场景状态管理、WebGPU 渲染管线、CSG 布尔运算和性能优化策略。
WebGPU
Three.js
React Three Fiber
Pascal Editor
3D编辑器
Turborepo
Bun
Monorepo
CSG
前端工程化
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
10
11
12
13
14
...
63
下一页