程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
编程
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
2026-06-30 11:17:15 +0800 CST
view 472
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
rqlite 深度实战:当轻量级 SQLite 遇上 Raft 共识——从分布式架构到生产级部署的完全指南(2026)
编程
rqlite 深度实战:当轻量级 SQLite 遇上 Raft 共识——从分布式架构到生产级部署的完全指南(2026)
2026-06-22 18:54:55 +0800 CST
view 436
rqlite是一个基于SQLite+Raft共识协议的轻量级分布式关系数据库。本文深入分析其架构原理、Raft复制机制、三种读一致性模型、实战部署(Docker/K8s)、Go语言集成开发、生产运维调优和踩坑指南。
rqlite
SQLite
Raft
分布式数据库
Go语言
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
编程
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
2026-05-17 04:14:18 +0800 CST
view 671
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
编程
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
2026-05-17 04:14:33 +0800 CST
view 570
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
Open Notebook 深度实战:当开源替代方案击败 Google Notebook LM——从多模态RAG到自托管部署的生产级完全指南(2026)【上】
编程
Open Notebook 深度实战:当开源替代方案击败 Google Notebook LM——从多模态RAG到自托管部署的生产级完全指南(2026)【上】
2026-06-11 16:20:00 +0800 CST
view 687
Open Notebook 是 Google Notebook LM 的开源替代方案,支持18+ AI模型、多模态内容处理、播客生成。本文上篇深度剖析项目背景、架构设计与核心功能实现。
Open Notebook
Notebook LM 替代品
RAG
多模态
自托管
AI笔记工具
Open Notebook 深度实战:当开源替代方案击败 Google Notebook LM——从多模态RAG到自托管部署的生产级完全指南(2026)【下】
编程
Open Notebook 深度实战:当开源替代方案击败 Google Notebook LM——从多模态RAG到自托管部署的生产级完全指南(2026)【下】
2026-06-11 16:21:26 +0800 CST
view 560
Open Notebook 是 Google Notebook LM 的开源替代方案。本文下篇深入实战多模型集成、播客生成、性能调优与安全管控,附真实生产案例。
Open Notebook
Notebook LM 替代品
多模型集成
播客生成
性能优化
生产案例
AI Agent 可观测性深度实战:当黑箱遇见全链路追踪——从 OTel GenAI 语义规范到 LoongSuite Pilot 端侧采集、Python 零代码插桩与安全审计的生产级完全指南
编程
AI Agent 可观测性深度实战:当黑箱遇见全链路追踪——从 OTel GenAI 语义规范到 LoongSuite Pilot 端侧采集、Python 零代码插桩与安全审计的生产级完全指南
2026-06-17 11:56:08 +0800 CST
view 586
深入剖析 AI Agent 可观测性核心难题,基于阿里云 LoongSuite 开源方案,从 OTel GenAI 语义规范扩展到端侧采集、零代码插桩与安全审计的完整生产级实战指南
AI Agent
可观测性
OpenTelemetry
LoongSuite
安全审计
vLLM vs SGLang 深度拆解:当推理引擎分道扬镳——从 PagedAttention 到 RadixAttention 的架构革命与选型决策指南(2026)
编程
vLLM vs SGLang 深度拆解:当推理引擎分道扬镳——从 PagedAttention 到 RadixAttention 的架构革命与选型决策指南(2026)
2026-08-14 07:12:45 +0800 CST
view 96
深度拆解 vLLM 与 SGLang 两大推理框架:从 PagedAttention 分页内存管理到 RadixAttention 前缀树复用,从 Continuous Batching 到压缩有限状态机,配完整性能对比数据与 15 条生产踩坑清单。
vLLM
SGLang
大模型推理
PagedAttention
RadixAttention
KV Cache
高性能计算
LLM部署
WWDC 2026 Foundation Models 深度实战:当苹果把大模型塞进 Swift——从端侧推理到 Gemini 兜底的生产级 AI 应用开发完全指南(2026)
编程
WWDC 2026 Foundation Models 深度实战:当苹果把大模型塞进 Swift——从端侧推理到 Gemini 兜底的生产级 AI 应用开发完全指南(2026)
2026-06-12 16:48:52 +0800 CST
view 875
WWDC 2026 最核心的 AI 技术全面拆解:Foundation Models framework 原生 Swift API、三层智能架构、App Intents 语义桥接、Evaluations 测试框架、Siri AI 独立应用——从架构分析到代码实战的完整生产级指南。
WWDC 2026
Foundation Models
Swift AI
Apple Intelligence
Siri AI
App Intents
Gemini
iOS 27
macOS 27
Xcode 27
vLLM vs SGLang 深度拆解:从 PagedAttention 到 RadixAttention 的架构革命(2026实战指南)
编程
vLLM vs SGLang 深度拆解:从 PagedAttention 到 RadixAttention 的架构革命(2026实战指南)
2026-08-14 07:13:18 +0800 CST
view 224
深度拆解 vLLM 与 SGLang 两大推理框架:从 PagedAttention 分页内存管理到 RadixAttention 前缀树复用,从 Continuous Batching 到压缩有限状态机,配完整性能对比数据与 15 条生产踩坑清单。
vLLM
SGLang
大模型推理
PagedAttention
RadixAttention
KV Cache
高性能计算
LLM部署
µP 深度拆解:当调参侠终于破解 scaling 诅咒——从最大更新参数化到万亿参数大模型超参迁移的工程全貌(2026)
编程
µP 深度拆解:当调参侠终于破解 scaling 诅咒——从最大更新参数化到万亿参数大模型超参迁移的工程全貌(2026)
2026-07-19 08:43:41 +0800 CST
view 289
深度拆解微软/ OpenAI 的 µP(最大更新参数化)理论:从 Tensor Programs 数学框架、为什么标准参数化失效、到 PyTorch mup 库完整实战代码,含 Transformer 层、AdamW 配置、跨尺度超参数迁移验证与生产级 Pipeline。
µP
Max Update Parametrization
超参数迁移
Tensor Programs
深度学习
Transformer
LLM训练
AdamW
mup
微软
eBPF + OpenTelemetry:零侵入可观测性的技术革命——从内核探针到生产级分布式追踪的完整实战指南(2026)
编程
eBPF + OpenTelemetry:零侵入可观测性的技术革命——从内核探针到生产级分布式追踪的完整实战指南(2026)
2026-06-23 11:26:27 +0800 CST
view 632
eBPF + OpenTelemetry:零侵入可观测性的技术革命。详解OBI架构、协议感知型探测、Go/Python运行时集成、生产级部署与调优,以及AI应用可观测性的独门绝技。8000字深度实战指南。
eBPF
OpenTelemetry
可观测性
分布式追踪
云原生
Linux内核
eBPF实战
OTel
code-review-graph 深度解剖:把代码库压成一张图,让 AI 审查少读 82 倍 token 的工程真相
编程
code-review-graph 深度解剖:把代码库压成一张图,让 AI 审查少读 82 倍 token 的工程真相
2026-07-25 04:14:50 +0800 CST
view 457
深度拆解 GitHub Trending 开源工具 code-review-graph:Tree-sitter AST 图谱构建、SQLite 本地存储、爆炸半径分析、2秒增量更新、MCP 集成与 GitHub Action 风险门禁,以及对 82x/528x benchmark 数据的诚实性冷思考。
code-review-graph
代码审查
知识图谱
Tree-sitter
MCP
AI编程
token优化
SQLite
开源
Claude Code
大模型推理引擎 2026 终极对决:vLLM vs SGLang,从 PagedAttention 到 RadixAttention,一次把 LLM 部署讲透(深度实战)
编程
大模型推理引擎 2026 终极对决:vLLM vs SGLang,从 PagedAttention 到 RadixAttention,一次把 LLM 部署讲透(深度实战)
2026-07-13 05:12:59 +0800 CST
view 343
深度对比 vLLM 与 SGLang 两大 LLM 推理引擎:从 KV Cache、PagedAttention、RadixAttention、连续批处理、分块预填充、推测解码、P/D 分离到量化部署,配可直接运行的生产级代码与基准测试。
vLLM
SGLang
LLM推理
大模型部署
PagedAttention
RadixAttention
万字深度解析 MoneyPrinterTurbo:当 LLM 遇见视频自动化——从 5 步 Pipeline 到 100+ 模型接入的生产级实战(2026)
编程
万字深度解析 MoneyPrinterTurbo:当 LLM 遇见视频自动化——从 5 步 Pipeline 到 100+ 模型接入的生产级实战(2026)
2026-07-01 10:45:38 +0800 CST
view 411
深度解析MoneyPrinterTurbo开源项目:AI全自动短视频生成框架,涵盖5步Pipeline、100+LLM模型接入、9种TTS方案、FFmpeg视频合成与性能优化实战(2026)
MoneyPrinterTurbo
AI视频
LLM
视频自动化
短视频
开源项目
Python
FFmpeg
TTS
LiteLLM
2026 LLM 推理框架深度拆解:当 vLLM 0.5 决定「让 PagedAttention 吞掉最后一块显存碎片」——从 PagedAttention 到 FlashAttention 3.0,四大推理框架如何用「算子融合 + 量化混合 + 动态批处理」重新定义大模型推理的终极形态
编程
2026 LLM 推理框架深度拆解:当 vLLM 0.5 决定「让 PagedAttention 吞掉最后一块显存碎片」——从 PagedAttention 到 FlashAttention 3.0,四大推理框架如何用「算子融合 + 量化混合 + 动态批处理」重新定义大模型推理的终极形态
2026-08-06 06:16:32 +0800 CST
view 209
深度拆解2026年四大主流LLM推理框架:vLLM 0.5 PagedAttention进化、TGI 2.0流式输出优化、TensorRT-LLM 1.8算子融合、DeepSpeed-MII 0.9自动优化,含完整架构分析、代码实战、性能基准测试与成本计算
LLM
vLLM
TensorRT-LLM
推理框架
PagedAttention
量化
GPU
H100
大模型
DeepSpeed
TGI
sqlite-vec 深度解析:零依赖的 SQLite 向量搜索扩展如何用一个 .so 文件让嵌入式数据库拥有百万级向量检索能力——从 vec0 虚拟表架构到 RAG/语义搜索生产级实战的完整指南
编程
sqlite-vec 深度解析:零依赖的 SQLite 向量搜索扩展如何用一个 .so 文件让嵌入式数据库拥有百万级向量检索能力——从 vec0 虚拟表架构到 RAG/语义搜索生产级实战的完整指南
2026-07-07 04:13:20 +0800 CST
view 496
深度解析sqlite-vec:纯C编写的零依赖SQLite向量搜索扩展,支持float/int8/binary三种向量类型、L2/cosine/hamming/jaccard四种距离度量、IVF近似搜索索引。从vec0虚拟表架构原理到Python/Go/Node.js多语言实战,涵盖RAG系统构建、FTS5混合检索、WASM浏览器运行、MCP协议集成,含完整性能基准与ChromaDB/Qdrant/Milvus对比分析。
sqlite-vec
SQLite
向量搜索
RAG
向量数据库
嵌入式
语义搜索
AI Agent
开源
WWDC 2026 开发者深度实战:当苹果生态迎来三重地震——Swift 6 严格并发、macOS 27 告别 Intel、Siri AI 开发框架与折叠屏适配的生产级完全指南
编程
WWDC 2026 开发者深度实战:当苹果生态迎来三重地震——Swift 6 严格并发、macOS 27 告别 Intel、Siri AI 开发框架与折叠屏适配的生产级完全指南
2026-06-18 10:27:33 +0800 CST
view 427
WWDC 2026开发者实战指南:Swift 6严格并发迁移、macOS 27告别Intel、Siri AI四套开发框架、折叠屏iPhone Ultra适配、Liquid Glass设计体系的生产级完全指南
Swift 6
WWDC 2026
macOS 27
iOS 27
Swift concurrency
Apple Intelligence
Siri AI
Core AI
App Intents
Foundation Models
折叠屏
iPhone Ultra
Liquid Glass
Apple Silicon
codebase-memory-mcp 深度拆解:当知识图谱成为 AI 编码代理的「第二大脑」——从 Tree-Sitter AST 分析、Hybrid LSP 语义解析到毫秒级图查询的工程全貌(2026)
编程
codebase-memory-mcp 深度拆解:当知识图谱成为 AI 编码代理的「第二大脑」——从 Tree-Sitter AST 分析、Hybrid LSP 语义解析到毫秒级图查询的工程全貌(2026)
2026-07-20 10:46:40 +0800 CST
view 282
codebase-memory-mcp 是 2026 年 7 月 GitHub Trending 热门项目,24K+ Stars。它通过 Tree-Sitter AST + Hybrid LSP 构建代码知识图谱,让 AI 编程助手实现毫秒级查询,减少 99.2% token 消耗。
AI编程
Tree-Sitter
MCP
知识图谱
C语言
SQLite
向量搜索
代码分析
SQLite-Vec 深度实战:当最轻量的数据库拥抱向量搜索——从零构建生产级本地 AI 语义检索系统完全指南(2026)
编程
SQLite-Vec 深度实战:当最轻量的数据库拥抱向量搜索——从零构建生产级本地 AI 语义检索系统完全指南(2026)
2026-06-05 11:14:34 +0800 CST
view 812
sqlite-vec深度实战:从架构原理到生产级部署,涵盖向量检索、RAG应用、WASM部署、int8量化优化
SQLite
向量搜索
AI
RAG
sqlite-vec
语义检索
C语言重写 × 知识图谱 × 99% Token节省:codebase-memory-mcp 如何让 AI 编程代理真正「懂」你的代码
编程
C语言重写 × 知识图谱 × 99% Token节省:codebase-memory-mcp 如何让 AI 编程代理真正「懂」你的代码
2026-06-26 16:49:08 +0800 CST
view 304
深入解析 DeusData/codebase-memory-mcp:纯 C 语言重写的代码知识图谱引擎,158 种语言支持,亚毫秒查询,99% Token 节省,零依赖单二进制。涵盖架构设计、与 Sourcegraph/Cursor 的全方位对比、生产实战指南。
codebase-memory-mcp
C
知识图谱
MCP
AI编程
Tree-sitter
代码智能
Token优化
SQLite
编译器级代码感知:codebase-memory-mcp 如何用 C 语言 + tree-sitter 为 AI Agent 装上「编译器级记忆」
编程
编译器级代码感知:codebase-memory-mcp 如何用 C 语言 + tree-sitter 为 AI Agent 装上「编译器级记忆」
2026-08-01 11:45:06 +0800 CST
view 151
深度拆解 codebase-memory-mcp 架构:tree-sitter AST 解析、混合 LSP 语义增强、SQLite 持久化知识图谱、14 个 MCP 工具设计,以及完整接入 Cursor/Claude Code 的实战指南。
MCP
tree-sitter
AI编程
代码知识图谱
SQLite
用 C 语言 + tree-sitter 为 AI 装上编译器级记忆:codebase-memory-mcp 架构深度解析
编程
用 C 语言 + tree-sitter 为 AI 装上编译器级记忆:codebase-memory-mcp 架构深度解析
2026-08-01 11:45:25 +0800 CST
view 182
深度拆解 codebase-memory-mcp 架构:tree-sitter AST 解析、混合 LSP 语义增强、SQLite 持久化知识图谱、14 个 MCP 工具设计,以及完整接入 Cursor/Claude Code 的实战指南。
MCP
tree-sitter
AI编程
代码知识图谱
SQLite
TencentDB Agent Memory v2.0 深度实战:把 AI Agent 的「失忆症」从根上治好——从四层记忆架构到 Team Memory 团队协作全链路拆解
编程
TencentDB Agent Memory v2.0 深度实战:把 AI Agent 的「失忆症」从根上治好——从四层记忆架构到 Team Memory 团队协作全链路拆解
2026-08-16 12:15:08 +0800 CST
view 140
深度拆解腾讯开源 TencentDB Agent Memory v2.0:从 L0-L3 四层记忆架构、上下文卸载、Mermaid 任务地图到 Team Memory 团队协作,配完整 Python/Go 代码实战与生产调优指南。
AI Agent
Agent Memory
四层记忆架构
Team Memory
上下文卸载
SQLite
FTS5
向量检索
Mermaid
腾讯云
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
85
86
87
88
89
...
104
下一页