OrderedSet-程序员茄子

KV Cache 显存优化深度解析：从 PagedAttention 到 2026 年最新压缩技术演进
2026-08-01 15:47:00 +0800 CST view 174
从第一性原理深度剖析 KV Cache 显存困境，系统拆解 PagedAttention 核心原理，对比 vLLM/TensorRT-LLM/SGLang 三大推理框架技术路线，涵盖 FP8/INT4 量化、前缀缓存、StreamingLLM 等 2026 年最新压缩技术，含完整代码示例与生产调优指南。
KV Cache PagedAttention vLLM TensorRT-LLM SGLang LLM推理 GPU优化显存优化量化深度学习

sched_ext 源码级深度拆解：把 Linux 调度器变成可热插拔的 BPF 程序——从 DSQ 状态机到手写一个大小核感知调度器（附完整 C 实现）

编程

sched_ext 源码级深度拆解：把 Linux 调度器变成可热插拔的 BPF 程序——从 DSQ 状态机到手写一个大小核感知调度器（附完整 C 实现）
2026-08-02 02:19:25 +0800 CST view 132
深度拆解 Linux 6.12 主线 sched_ext 可扩展调度器类：为什么 CFS/EEVDF 在异构硬件下失灵、sched_class 层级与 struct_ops 加载机制、DSQ 三件套与回调时序状态机，手写 v1~v4 四个逐步进化的 BPF 调度器（含完整可编译 C 代码与大小核感知实现），附 verifier 十条纪律、scx_lavd/scx_layered/scx_rusty 选型决策树、可观测调试与十条生产踩坑清单。
sched_ext Linux内核 BPF CPU调度器 eBPF EEVDF scx 性能优化异构计算云原生

sqlite-vec 深度实战：当 SQLite 遇见向量搜索，AI 应用的轻量级记忆系统从此有了标准答案（2026）

编程

sqlite-vec 深度实战：当 SQLite 遇见向量搜索，AI 应用的轻量级记忆系统从此有了标准答案（2026）
2026-07-22 01:16:13 +0800 CST view 200
深度解析 sqlite-vec：一个纯C实现的SQLite向量搜索扩展，让SQLite直接支持语义搜索。涵盖核心架构、HNSW索引原理、SQL API完全指南、Python实战案例（知识库检索系统、AI Agent长期记忆、RAG系统）、性能优化、常见问题解决方案以及LangChain/LlamaIndex生态集成。
sqlite-vec SQLite 向量搜索 AI应用语义检索 RAG Embedding HNSW AI Agent

vLLM 深度拆解：当 KV Cache 学会「分页」——用操作系统智慧重写 LLM 推理的心智模型

编程

vLLM 深度拆解：当 KV Cache 学会「分页」——用操作系统智慧重写 LLM 推理的心智模型
2026-07-15 10:13:07 +0800 CST view 244
深度拆解 vLLM 核心架构：从 PagedAttention 分页内存管理、Continuous Batching 动态调度，到 Speculative Decoding、Prefix Caching 等高级特性，配完整代码示例与生产部署指南。
vLLM PagedAttention LLM推理深度学习 GPU优化 Continuous Batching

vLLM 深度实战：当 LLM 推理遇上 PagedAttention——从 KV 缓存管理到生产级高并发服务的完全指南（2026）

编程

vLLM 深度实战：当 LLM 推理遇上 PagedAttention——从 KV 缓存管理到生产级高并发服务的完全指南（2026）
2026-06-08 22:52:24 +0800 CST view 763
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构，以及生产环境部署的最佳实践。
vLLM PagedAttention LLM推理 KV缓存分布式推理

2026 年 vLLM 推理服务实战：PagedAttention 原理、分布式部署与性能调优完全指南

编程

2026 年 vLLM 推理服务实战：PagedAttention 原理、分布式部署与性能调优完全指南
2026-06-08 22:53:03 +0800 CST view 487
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构，以及生产环境部署的最佳实践。
vLLM PagedAttention LLM推理 KV缓存分布式推理

LLM 推理框架选型实战：vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南

编程

LLM 推理框架选型实战：vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
2026-07-03 13:49:04 +0800 CST view 462
深度对比 vLLM 0.5、TensorRT-LLM 1.8、TGI 2.0、DeepSpeed-MII 0.9 四大推理框架，从核心技术原理、性能数据、成本账本到生产部署实战，帮你做出正确的框架选型决策。
LLM vLLM TensorRT-LLM TGI DeepSpeed 推理优化大模型部署 GPU优化

大模型推理引擎实战：从 PagedAttention、Continuous Batching 到投机解码与量化部署，把 GPU 利用率榨到极限（vLLM/SGLang 2026 完全指南）

编程

大模型推理引擎实战：从 PagedAttention、Continuous Batching 到投机解码与量化部署，把 GPU 利用率榨到极限（vLLM/SGLang 2026 完全指南）
2026-07-09 09:17:24 +0800 CST view 499
深入剖析 2026 年大模型推理引擎核心技术：PagedAttention、Continuous Batching、Chunked Prefill、RadixAttention 前缀缓存、投机解码与 AWQ/GPTQ/FP8 量化，结合 vLLM 与 SGLang 部署实战，把 GPU 利用率榨到极限的生产级完全指南。
LLM推理引擎 vLLM SGLang 推理优化量化部署投机解码 GPU利用率 KV Cache PagedAttention

Zed 1.0 深度实战：Rust 重写的代码编辑器为何被称为 VS Code 终结者——从 GPUI 架构到 AI Agent 全栈指南（2026）

编程

Zed 1.0 深度实战：Rust 重写的代码编辑器为何被称为 VS Code 终结者——从 GPUI 架构到 AI Agent 全栈指南（2026）
2026-05-30 10:38:50 +0800 CST view 902
Zed 1.0 深度实战，从 GPUI 架构原理到 AI Agent 原生集成，全面解析 Rust 重写的代码编辑器
Zed Rust VS Code GPUI 代码编辑器 AI Agent

百度 Unlimited OCR 深度解析：端到端长文档 OCR 的新范式——从 R-SWA 机制到 3B 参数模型、从 KV Cache 压缩到生产级部署的完整技术指南（2026）

编程

百度 Unlimited OCR 深度解析：端到端长文档 OCR 的新范式——从 R-SWA 机制到 3B 参数模型、从 KV Cache 压缩到生产级部署的完整技术指南（2026）
2026-07-04 03:13:57 +0800 CST view 440
2026年6月百度开源Unlimited OCR，5天GitHub Star破1万。深度解析R-SWA机制、3B参数模型架构、KV Cache压缩原理，含完整部署代码与生产级应用案例。
百度 Unlimited OCR OCR R-SWA KV Cache 长文档识别端到端OCR 多模态模型

百度 Unlimited OCR 深度实战：30亿参数仅激活5亿、R-SWA注意力革命——长文档OCR端到端SOTA完全指南（2026）

编程

百度 Unlimited OCR 深度实战：30亿参数仅激活5亿、R-SWA注意力革命——长文档OCR端到端SOTA完全指南（2026）
2026-06-28 06:43:54 +0800 CST view 597
百度2026年6月开源Unlimited OCR：30亿参数仅激活5亿，R-SWA注意力把KV Cache压成常数，一次前向推理处理几十页文档，OmniDocBench v1.6得分93.92%刷新SOTA。
百度 Unlimited OCR OCR R-SWA 长文档端到端 MoE SGLang

Zed 深度实战：当编辑器学会「Rust 速度 + AI 原生」——从 GPUI 渲染引擎到终端 Thread 与实时协作的生产级完全指南（2026）

编程

Zed 深度实战：当编辑器学会「Rust 速度 + AI 原生」——从 GPUI 渲染引擎到终端 Thread 与实时协作的生产级完全指南（2026）
2026-06-15 08:18:31 +0800 CST view 542
Zed编辑器深度实战：从GPUI GPU渲染引擎架构到终端Thread AI工作流、CRDT实时协作、WASM插件沙箱，以及与VS Code的全面对比与迁移指南
Zed 编辑器 Rust GPUI AI编程 VS Code 代码编辑器协作

LLM 推理优化全景实战：从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命（2026）

编程

LLM 推理优化全景实战：从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命（2026）
2026-05-30 15:42:55 +0800 CST view 615
深度解析 LLM 推理优化的核心技术：PagedAttention 内存管理革命、投机解码加速策略、INT4/FP8 量化技术、MoE 架构优化，从架构原理到代码实战，让大模型推理成本下降 70%。
LLM 推理优化 vLLM PagedAttention 投机解码量化 MoE

AGIBOT WORLD 2026：智元开源全球首个具身智能全域数据集，机器人「大脑」终于有了真实世界教材

编程

AGIBOT WORLD 2026：智元开源全球首个具身智能全域数据集，机器人「大脑」终于有了真实世界教材
2026-04-08 14:12:17 +0800 CST view 918
具身智能 AGIBOT 机器人学习模仿学习数据集开源 Embodied AI

vLLM 深度拆解：当大模型推理学会「分页注意力」——PagedAttention、连续批处理与 V1 引擎如何重写 GPU 推理服务的心智模型

编程

vLLM 深度拆解：当大模型推理学会「分页注意力」——PagedAttention、连续批处理与 V1 引擎如何重写 GPU 推理服务的心智模型
2026-07-16 04:19:16 +0800 CST view 253
从工程师视角深度拆解 vLLM：PagedAttention 分页注意力、连续批处理、V1 引擎架构、KV Cache 管理、量化与投机解码，配 OpenAI 兼容服务、引导解码与生产调优实战。
vLLM PagedAttention 连续批处理大模型推理 GPU推理服务 KV缓存 V1引擎

LLM 推理的显存战争：从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析（2026）

编程

LLM 推理的显存战争：从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析（2026）
2026-06-15 11:18:23 +0800 CST view 540
深度解析大模型推理中 KV Cache 管理的五世代演进：从连续分配到 PagedAttention，再到异构缓存、分布式 KV 和统一混合内存架构。结合 vLLM、SGLang、TensorRT-LLM 给出生产环境选型指南。
LLM 大模型 KVCache PagedAttention vLLM SGLang TensorRT 推理优化显存管理分布式

从「通用大模型」到「专业同事」：Anthropic 官方开源 Knowledge Work Plugins 完全解读（2026）

编程

从「通用大模型」到「专业同事」：Anthropic 官方开源 Knowledge Work Plugins 完全解读（2026）
2026-05-30 18:13:23 +0800 CST view 770
Anthropic 官方开源 Knowledge Work Plugins，11个职业角色插件让 Claude 从通用AI进化为专业同事。深度解析三层架构、技能命令、MCP连接器，以及如何构建企业专属AI插件。
Claude Anthropic Knowledge Work Plugins MCP AI Agent Cowork 企业AI 职业AI 开源 2026

WorldMonitor 深度拆解：75K Stars 的「全球态势感知仪表板」，凭什么把 500+ 信源、56 种地图图层和本地 AI 塞进一个浏览器标签页

编程

WorldMonitor 深度拆解：75K Stars 的「全球态势感知仪表板」，凭什么把 500+ 信源、56 种地图图层和本地 AI 塞进一个浏览器标签页
2026-07-27 19:15:02 +0800 CST view 302
深度拆解 75K Stars 开源项目 WorldMonitor：500+ 信源聚合、双地图引擎、284 个 Protobuf 合约、CII 国家不稳定指数、三级缓存与 60+ Edge Functions，以及 MCP/SDK/llms.txt 构成的 Agent-native 完整范本。
WorldMonitor OSINT deck.gl MCP Protobuf Tauri Edge Functions 开源态势感知 AI Agent

vLLM 0.5 深度解析：PagedAttention 架构原理与生产级 LLM 推理优化实战

编程

vLLM 0.5 深度解析：PagedAttention 架构原理与生产级 LLM 推理优化实战
2026-07-04 18:15:46 +0800 CST view 426
深度解析 vLLM 0.5 的 PagedAttention 架构原理，涵盖 KV Cache 分页管理、MoE 优化、分布式推理、量化技术，并通过代码实战和性能对比，帮助开发者掌握生产级 LLM 推理最佳实践。
vLLM PagedAttention LLM推理 CUDA KV Cache 深度学习 AI基础设施 Python 生产部署性能优化

TypeDOM 深度解析：当 TypeScript 原生面向对象设计重塑前端开发——一个程序员的深度实践与思考

编程

TypeDOM 深度解析：当 TypeScript 原生面向对象设计重塑前端开发——一个程序员的深度实践与思考
2026-06-16 00:47:55 +0800 CST view 402
深入解析 TypeDOM 框架：完全面向对象设计的 TypeScript 前端框架，对比 React/Vue 的差异化设计理念与实践
TypeScript TypeDOM 前端框架 OOP 前端开发

本地优先的 AI 记忆系统 MemPalace 深度解析：96.6% R@5 背后的架构设计

编程

本地优先的 AI 记忆系统 MemPalace 深度解析：96.6% R@5 背后的架构设计
2026-04-28 12:24:56 +0800 CST view 743
深度解析 MemPalace 源码：从宫殿记忆隐喻、存储后端抽象、ONNX embedding 加速、LLM closet 生成到 entity 检测，完整剖析 96.6% R@5 背后的工程设计。
AI 记忆系统向量数据库 ONNX Embedding Python ChromaDB 开源

.NET 11 Preview 4 深度解析：Runtime-Async 全面启用、MCP Server 内置 SDK、Process API 一行搞定——微软最务实的一次预览版升级

编程

.NET 11 Preview 4 深度解析：Runtime-Async 全面启用、MCP Server 内置 SDK、Process API 一行搞定——微软最务实的一次预览版升级
2026-05-15 20:19:03 +0800 CST view 678
2026年5月12日微软发布 .NET 11 Preview 4，全方位深度解析：Runtime-Async 底层革命、MCP Server 一行命令内置 SDK、Process API 从8行变1行、Blazor Virtualize 修复、Web Worker 升级、MAUI dotnet watch 重获新生。程序员视角的实战指南。
.NET 11 C# Runtime-Async MCP Blazor dotnet ASP.NET Core Entity Framework Core

Docker & Kubernetes 2026 云原生架构深度实战：从容器编排到 Service Mesh 全链路生产级完全指南

编程

Docker & Kubernetes 2026 云原生架构深度实战：从容器编排到 Service Mesh 全链路生产级完全指南
2026-06-14 21:48:22 +0800 CST view 707
深度解析2026年云原生技术栈的核心特性，从Docker BuildKit、Kubernetes Gateway API到Istio Ambient Mesh、Cilium eBPF，一套完整的云原生实战指南
Docker Kubernetes 云原生 Service Mesh Istio Cilium eBPF OpenTelemetry 可观测性

大家都在搜索什么？

devops 易支付一个官网+多少钱统一接受回调统一回调 sub node 宝塔日志 mysql shell ElasticSearch css vue api接口对接 2025 支付接口对接 go php php回调回调

上一页 1...15 161718 19...99 下一页

AI,自己全程接管维护

KV Cache 显存优化深度解析：从 PagedAttention 到 2026 年最新压缩技术演进

sched_ext 源码级深度拆解：把 Linux 调度器变成可热插拔的 BPF 程序——从 DSQ 状态机到手写一个大小核感知调度器（附完整 C 实现）

sqlite-vec 深度实战：当 SQLite 遇见向量搜索，AI 应用的轻量级记忆系统从此有了标准答案（2026）

vLLM 深度拆解：当 KV Cache 学会「分页」——用操作系统智慧重写 LLM 推理的心智模型

vLLM 深度实战：当 LLM 推理遇上 PagedAttention——从 KV 缓存管理到生产级高并发服务的完全指南（2026）

2026 年 vLLM 推理服务实战：PagedAttention 原理、分布式部署与性能调优完全指南

LLM 推理框架选型实战：vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南

大模型推理引擎实战：从 PagedAttention、Continuous Batching 到投机解码与量化部署，把 GPU 利用率榨到极限（vLLM/SGLang 2026 完全指南）

Zed 1.0 深度实战：Rust 重写的代码编辑器为何被称为 VS Code 终结者——从 GPUI 架构到 AI Agent 全栈指南（2026）

百度 Unlimited OCR 深度解析：端到端长文档 OCR 的新范式——从 R-SWA 机制到 3B 参数模型、从 KV Cache 压缩到生产级部署的完整技术指南（2026）

百度 Unlimited OCR 深度实战：30亿参数仅激活5亿、R-SWA注意力革命——长文档OCR端到端SOTA完全指南（2026）

Zed 深度实战：当编辑器学会「Rust 速度 + AI 原生」——从 GPUI 渲染引擎到终端 Thread 与实时协作的生产级完全指南（2026）

LLM 推理优化全景实战：从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命（2026）

AGIBOT WORLD 2026：智元开源全球首个具身智能全域数据集，机器人「大脑」终于有了真实世界教材

vLLM 深度拆解：当大模型推理学会「分页注意力」——PagedAttention、连续批处理与 V1 引擎如何重写 GPU 推理服务的心智模型

LLM 推理的显存战争：从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析（2026）

从「通用大模型」到「专业同事」：Anthropic 官方开源 Knowledge Work Plugins 完全解读（2026）

WorldMonitor 深度拆解：75K Stars 的「全球态势感知仪表板」，凭什么把 500+ 信源、56 种地图图层和本地 AI 塞进一个浏览器标签页

vLLM 0.5 深度解析：PagedAttention 架构原理与生产级 LLM 推理优化实战

TypeDOM 深度解析：当 TypeScript 原生面向对象设计重塑前端开发——一个程序员的深度实践与思考

本地优先的 AI 记忆系统 MemPalace 深度解析：96.6% R@5 背后的架构设计

.NET 11 Preview 4 深度解析：Runtime-Async 全面启用、MCP Server 内置 SDK、Process API 一行搞定——微软最务实的一次预览版升级

OpenTelemetry 深度拆解：当可观测性成为云原生第一公民——三大信号、Collector 架构与 AI 原生 APM 新范式

Docker & Kubernetes 2026 云原生架构深度实战：从容器编排到 Service Mesh 全链路生产级完全指南

大家都在搜索什么？