程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
日活智能体数DAA替代Token:百度Create2026透露了哪些AI行业真相
编程
日活智能体数DAA替代Token:百度Create2026透露了哪些AI行业真相
2026-05-16 17:24:43 +0800 CST
view 539
2026年5月百度Create2026,李彦宏提出DAA(日活智能体数)替代Token成为AI时代新度量衡。深度解析这一概念的战略深意,以及百度DuMate、秒哒、伐谋等产品矩阵的技术内核。
百度
DAA
AI Agent
Create2026
DuMate
秒哒
伐谋
智能体
AI时代度量衡
超级个体
李彦宏的AI新度量衡:Token是成本DAA才是价值(Create2026深度复盘)
编程
李彦宏的AI新度量衡:Token是成本DAA才是价值(Create2026深度复盘)
2026-05-16 17:25:28 +0800 CST
view 571
2026年5月百度Create2026,李彦宏提出DAA(日活智能体数)替代Token成为AI时代新度量衡。深度解析这一概念的战略深意,以及百度DuMate、秒哒、伐谋等产品矩阵的技术内核。
百度
DAA
AI Agent
Create2026
DuMate
秒哒
伐谋
智能体
AI时代度量衡
超级个体
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
编程
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
2026-06-30 11:16:18 +0800 CST
view 314
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
编程
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
2026-06-30 11:17:15 +0800 CST
view 349
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
rqlite 深度实战:当轻量级 SQLite 遇上 Raft 共识——从分布式架构到生产级部署的完全指南(2026)
编程
rqlite 深度实战:当轻量级 SQLite 遇上 Raft 共识——从分布式架构到生产级部署的完全指南(2026)
2026-06-22 18:54:55 +0800 CST
view 328
rqlite是一个基于SQLite+Raft共识协议的轻量级分布式关系数据库。本文深入分析其架构原理、Raft复制机制、三种读一致性模型、实战部署(Docker/K8s)、Go语言集成开发、生产运维调优和踩坑指南。
rqlite
SQLite
Raft
分布式数据库
Go语言
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
编程
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
2026-05-17 04:14:18 +0800 CST
view 591
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
编程
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
2026-05-17 04:14:33 +0800 CST
view 507
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
Open Notebook 深度实战:当开源替代方案击败 Google Notebook LM——从多模态RAG到自托管部署的生产级完全指南(2026)【上】
编程
Open Notebook 深度实战:当开源替代方案击败 Google Notebook LM——从多模态RAG到自托管部署的生产级完全指南(2026)【上】
2026-06-11 16:20:00 +0800 CST
view 561
Open Notebook 是 Google Notebook LM 的开源替代方案,支持18+ AI模型、多模态内容处理、播客生成。本文上篇深度剖析项目背景、架构设计与核心功能实现。
Open Notebook
Notebook LM 替代品
RAG
多模态
自托管
AI笔记工具
Open Notebook 深度实战:当开源替代方案击败 Google Notebook LM——从多模态RAG到自托管部署的生产级完全指南(2026)【下】
编程
Open Notebook 深度实战:当开源替代方案击败 Google Notebook LM——从多模态RAG到自托管部署的生产级完全指南(2026)【下】
2026-06-11 16:21:26 +0800 CST
view 455
Open Notebook 是 Google Notebook LM 的开源替代方案。本文下篇深入实战多模型集成、播客生成、性能调优与安全管控,附真实生产案例。
Open Notebook
Notebook LM 替代品
多模型集成
播客生成
性能优化
生产案例
WWDC 2026 Foundation Models 深度实战:当苹果把大模型塞进 Swift——从端侧推理到 Gemini 兜底的生产级 AI 应用开发完全指南(2026)
编程
WWDC 2026 Foundation Models 深度实战:当苹果把大模型塞进 Swift——从端侧推理到 Gemini 兜底的生产级 AI 应用开发完全指南(2026)
2026-06-12 16:48:52 +0800 CST
view 702
WWDC 2026 最核心的 AI 技术全面拆解:Foundation Models framework 原生 Swift API、三层智能架构、App Intents 语义桥接、Evaluations 测试框架、Siri AI 独立应用——从架构分析到代码实战的完整生产级指南。
WWDC 2026
Foundation Models
Swift AI
Apple Intelligence
Siri AI
App Intents
Gemini
iOS 27
macOS 27
Xcode 27
大模型推理引擎 2026 终极对决:vLLM vs SGLang,从 PagedAttention 到 RadixAttention,一次把 LLM 部署讲透(深度实战)
编程
大模型推理引擎 2026 终极对决:vLLM vs SGLang,从 PagedAttention 到 RadixAttention,一次把 LLM 部署讲透(深度实战)
2026-07-13 05:12:59 +0800 CST
view 223
深度对比 vLLM 与 SGLang 两大 LLM 推理引擎:从 KV Cache、PagedAttention、RadixAttention、连续批处理、分块预填充、推测解码、P/D 分离到量化部署,配可直接运行的生产级代码与基准测试。
vLLM
SGLang
LLM推理
大模型部署
PagedAttention
RadixAttention
2026 LLM 推理框架深度拆解:当 vLLM 0.5 决定「让 PagedAttention 吞掉最后一块显存碎片」——从 PagedAttention 到 FlashAttention 3.0,四大推理框架如何用「算子融合 + 量化混合 + 动态批处理」重新定义大模型推理的终极形态
编程
2026 LLM 推理框架深度拆解:当 vLLM 0.5 决定「让 PagedAttention 吞掉最后一块显存碎片」——从 PagedAttention 到 FlashAttention 3.0,四大推理框架如何用「算子融合 + 量化混合 + 动态批处理」重新定义大模型推理的终极形态
2026-08-06 06:16:32 +0800 CST
view 19
深度拆解2026年四大主流LLM推理框架:vLLM 0.5 PagedAttention进化、TGI 2.0流式输出优化、TensorRT-LLM 1.8算子融合、DeepSpeed-MII 0.9自动优化,含完整架构分析、代码实战、性能基准测试与成本计算
LLM
vLLM
TensorRT-LLM
推理框架
PagedAttention
量化
GPU
H100
大模型
DeepSpeed
TGI
sqlite-vec 深度解析:零依赖的 SQLite 向量搜索扩展如何用一个 .so 文件让嵌入式数据库拥有百万级向量检索能力——从 vec0 虚拟表架构到 RAG/语义搜索生产级实战的完整指南
编程
sqlite-vec 深度解析:零依赖的 SQLite 向量搜索扩展如何用一个 .so 文件让嵌入式数据库拥有百万级向量检索能力——从 vec0 虚拟表架构到 RAG/语义搜索生产级实战的完整指南
2026-07-07 04:13:20 +0800 CST
view 340
深度解析sqlite-vec:纯C编写的零依赖SQLite向量搜索扩展,支持float/int8/binary三种向量类型、L2/cosine/hamming/jaccard四种距离度量、IVF近似搜索索引。从vec0虚拟表架构原理到Python/Go/Node.js多语言实战,涵盖RAG系统构建、FTS5混合检索、WASM浏览器运行、MCP协议集成,含完整性能基准与ChromaDB/Qdrant/Milvus对比分析。
sqlite-vec
SQLite
向量搜索
RAG
向量数据库
嵌入式
语义搜索
AI Agent
开源
WWDC 2026 开发者深度实战:当苹果生态迎来三重地震——Swift 6 严格并发、macOS 27 告别 Intel、Siri AI 开发框架与折叠屏适配的生产级完全指南
编程
WWDC 2026 开发者深度实战:当苹果生态迎来三重地震——Swift 6 严格并发、macOS 27 告别 Intel、Siri AI 开发框架与折叠屏适配的生产级完全指南
2026-06-18 10:27:33 +0800 CST
view 365
WWDC 2026开发者实战指南:Swift 6严格并发迁移、macOS 27告别Intel、Siri AI四套开发框架、折叠屏iPhone Ultra适配、Liquid Glass设计体系的生产级完全指南
Swift 6
WWDC 2026
macOS 27
iOS 27
Swift concurrency
Apple Intelligence
Siri AI
Core AI
App Intents
Foundation Models
折叠屏
iPhone Ultra
Liquid Glass
Apple Silicon
SQLite-Vec 深度实战:当最轻量的数据库拥抱向量搜索——从零构建生产级本地 AI 语义检索系统完全指南(2026)
编程
SQLite-Vec 深度实战:当最轻量的数据库拥抱向量搜索——从零构建生产级本地 AI 语义检索系统完全指南(2026)
2026-06-05 11:14:34 +0800 CST
view 672
sqlite-vec深度实战:从架构原理到生产级部署,涵盖向量检索、RAG应用、WASM部署、int8量化优化
SQLite
向量搜索
AI
RAG
sqlite-vec
语义检索
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
编程
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
2026-06-27 12:44:29 +0800 CST
view 346
2026年LLM推理引擎深度实战:从PagedAttention、连续批处理、量化技术到生产级K8s部署,万字长文覆盖vLLM、SGLang、TensorRT-LLM、TGI四大框架架构原理与实测对比
LLM推理
vLLM
PagedAttention
SGLang
推理优化
TensorRT-LLM
生产部署
KV Cache
量化
KV Cache 显存优化深度解析:从 PagedAttention 到 2026 年最新压缩技术演进
编程
KV Cache 显存优化深度解析:从 PagedAttention 到 2026 年最新压缩技术演进
2026-08-01 15:47:00 +0800 CST
view 90
从第一性原理深度剖析 KV Cache 显存困境,系统拆解 PagedAttention 核心原理,对比 vLLM/TensorRT-LLM/SGLang 三大推理框架技术路线,涵盖 FP8/INT4 量化、前缀缓存、StreamingLLM 等 2026 年最新压缩技术,含完整代码示例与生产调优指南。
KV Cache
PagedAttention
vLLM
TensorRT-LLM
SGLang
LLM推理
GPU优化
显存优化
量化
深度学习
sqlite-vec 深度实战:当 SQLite 遇见向量搜索,AI 应用的轻量级记忆系统从此有了标准答案(2026)
编程
sqlite-vec 深度实战:当 SQLite 遇见向量搜索,AI 应用的轻量级记忆系统从此有了标准答案(2026)
2026-07-22 01:16:13 +0800 CST
view 158
深度解析 sqlite-vec:一个纯C实现的SQLite向量搜索扩展,让SQLite直接支持语义搜索。涵盖核心架构、HNSW索引原理、SQL API完全指南、Python实战案例(知识库检索系统、AI Agent长期记忆、RAG系统)、性能优化、常见问题解决方案以及LangChain/LlamaIndex生态集成。
sqlite-vec
SQLite
向量搜索
AI应用
语义检索
RAG
Embedding
HNSW
AI Agent
OmniRoute 深度实战:28K Stars 的开源 AI 网关,如何用一个端口统一调度 250+ 大模型?
编程
OmniRoute 深度实战:28K Stars 的开源 AI 网关,如何用一个端口统一调度 250+ 大模型?
2026-07-27 06:46:10 +0800 CST
view 166
深度拆解GitHub 28.8K Stars开源项目OmniRoute:AI网关架构、RTK+Caveman Token压缩、18种路由策略、MCP/A2A协议,附完整部署实战与成本优化指南。
OmniRoute
AI Gateway
大模型路由
Token压缩
开源
LLM 推理的显存战争:从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析(2026)
编程
LLM 推理的显存战争:从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析(2026)
2026-06-15 11:18:23 +0800 CST
view 487
深度解析大模型推理中 KV Cache 管理的五世代演进:从连续分配到 PagedAttention,再到异构缓存、分布式 KV 和统一混合内存架构。结合 vLLM、SGLang、TensorRT-LLM 给出生产环境选型指南。
LLM
大模型
KVCache
PagedAttention
vLLM
SGLang
TensorRT
推理优化
显存管理
分布式
WWDC 2026深度解析:苹果AI战略全面重构,Siri从语音助手进化为智能体 —— 从系统架构到开发者机遇的完全指南
编程
WWDC 2026深度解析:苹果AI战略全面重构,Siri从语音助手进化为智能体 —— 从系统架构到开发者机遇的完全指南
2026-06-09 18:15:56 +0800 CST
view 532
WWDC 2026正式发布全新Siri AI,从技术架构到开发者生态全面解析苹果AI战略反击战
WWDC
Apple
Siri
AI
iOS
macOS
App Intents
Apple Intelligence
SQLite-Vec 深度实战:当嵌入式数据库学会了向量搜索——从本地 RAG 到端侧 AI 应用的生产级完全指南(2026)
编程
SQLite-Vec 深度实战:当嵌入式数据库学会了向量搜索——从本地 RAG 到端侧 AI 应用的生产级完全指南(2026)
2026-06-21 10:26:56 +0800 CST
view 456
SQLite-Vec 完全指南:让嵌入式数据库拥有向量搜索能力。从架构原理到代码实战,详解本地 RAG 系统、向量索引优化、端侧部署方案,附带完整可运行代码。
SQLite
向量数据库
RAG
AI
嵌入式数据库
sqlite-vec
本地AI
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
2026-06-10 10:17:56 +0800 CST
view 487
深度解析 vLLM 的核心架构 PagedAttention 和 Continuous Batching,从内存管理原理到生产级分布式部署的完全指南。
vLLM
LLM推理
PagedAttention
GPU优化
大模型部署
AI推理
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
编程
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
2026-07-10 17:44:16 +0800 CST
view 346
深度对比2026年四大主流LLM推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9,涵盖PagedAttention、FP8量化、ZeRO-3、连续批处理等核心技术原理,配生产级代码示例与实测性能数据。
LLM
vLLM
TensorRT-LLM
TGI
DeepSpeed
推理优化
量化
AI部署
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
122
123
124
125
126
...
131
下一页