程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
编程
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
2026-06-30 11:17:15 +0800 CST
view 222
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
rqlite 深度实战:当轻量级 SQLite 遇上 Raft 共识——从分布式架构到生产级部署的完全指南(2026)
编程
rqlite 深度实战:当轻量级 SQLite 遇上 Raft 共识——从分布式架构到生产级部署的完全指南(2026)
2026-06-22 18:54:55 +0800 CST
view 210
rqlite是一个基于SQLite+Raft共识协议的轻量级分布式关系数据库。本文深入分析其架构原理、Raft复制机制、三种读一致性模型、实战部署(Docker/K8s)、Go语言集成开发、生产运维调优和踩坑指南。
rqlite
SQLite
Raft
分布式数据库
Go语言
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
编程
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
2026-05-17 04:14:18 +0800 CST
view 443
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
编程
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
2026-05-17 04:14:33 +0800 CST
view 410
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
Open Notebook 深度实战:当开源替代方案击败 Google Notebook LM——从多模态RAG到自托管部署的生产级完全指南(2026)【上】
编程
Open Notebook 深度实战:当开源替代方案击败 Google Notebook LM——从多模态RAG到自托管部署的生产级完全指南(2026)【上】
2026-06-11 16:20:00 +0800 CST
view 359
Open Notebook 是 Google Notebook LM 的开源替代方案,支持18+ AI模型、多模态内容处理、播客生成。本文上篇深度剖析项目背景、架构设计与核心功能实现。
Open Notebook
Notebook LM 替代品
RAG
多模态
自托管
AI笔记工具
Open Notebook 深度实战:当开源替代方案击败 Google Notebook LM——从多模态RAG到自托管部署的生产级完全指南(2026)【下】
编程
Open Notebook 深度实战:当开源替代方案击败 Google Notebook LM——从多模态RAG到自托管部署的生产级完全指南(2026)【下】
2026-06-11 16:21:26 +0800 CST
view 286
Open Notebook 是 Google Notebook LM 的开源替代方案。本文下篇深入实战多模型集成、播客生成、性能调优与安全管控,附真实生产案例。
Open Notebook
Notebook LM 替代品
多模型集成
播客生成
性能优化
生产案例
WWDC 2026 Foundation Models 深度实战:当苹果把大模型塞进 Swift——从端侧推理到 Gemini 兜底的生产级 AI 应用开发完全指南(2026)
编程
WWDC 2026 Foundation Models 深度实战:当苹果把大模型塞进 Swift——从端侧推理到 Gemini 兜底的生产级 AI 应用开发完全指南(2026)
2026-06-12 16:48:52 +0800 CST
view 459
WWDC 2026 最核心的 AI 技术全面拆解:Foundation Models framework 原生 Swift API、三层智能架构、App Intents 语义桥接、Evaluations 测试框架、Siri AI 独立应用——从架构分析到代码实战的完整生产级指南。
WWDC 2026
Foundation Models
Swift AI
Apple Intelligence
Siri AI
App Intents
Gemini
iOS 27
macOS 27
Xcode 27
大模型推理引擎 2026 终极对决:vLLM vs SGLang,从 PagedAttention 到 RadixAttention,一次把 LLM 部署讲透(深度实战)
编程
大模型推理引擎 2026 终极对决:vLLM vs SGLang,从 PagedAttention 到 RadixAttention,一次把 LLM 部署讲透(深度实战)
2026-07-13 05:12:59 +0800 CST
view 48
深度对比 vLLM 与 SGLang 两大 LLM 推理引擎:从 KV Cache、PagedAttention、RadixAttention、连续批处理、分块预填充、推测解码、P/D 分离到量化部署,配可直接运行的生产级代码与基准测试。
vLLM
SGLang
LLM推理
大模型部署
PagedAttention
RadixAttention
sqlite-vec 深度解析:零依赖的 SQLite 向量搜索扩展如何用一个 .so 文件让嵌入式数据库拥有百万级向量检索能力——从 vec0 虚拟表架构到 RAG/语义搜索生产级实战的完整指南
编程
sqlite-vec 深度解析:零依赖的 SQLite 向量搜索扩展如何用一个 .so 文件让嵌入式数据库拥有百万级向量检索能力——从 vec0 虚拟表架构到 RAG/语义搜索生产级实战的完整指南
2026-07-07 04:13:20 +0800 CST
view 159
深度解析sqlite-vec:纯C编写的零依赖SQLite向量搜索扩展,支持float/int8/binary三种向量类型、L2/cosine/hamming/jaccard四种距离度量、IVF近似搜索索引。从vec0虚拟表架构原理到Python/Go/Node.js多语言实战,涵盖RAG系统构建、FTS5混合检索、WASM浏览器运行、MCP协议集成,含完整性能基准与ChromaDB/Qdrant/Milvus对比分析。
sqlite-vec
SQLite
向量搜索
RAG
向量数据库
嵌入式
语义搜索
AI Agent
开源
PyTorch 2.13 深度解析:一次把框架换心与跨平台革命讲透
编程
PyTorch 2.13 深度解析:一次把框架换心与跨平台革命讲透
2026-07-14 01:14:51 +0800 CST
view 67
2026年7月PyTorch 2.13重磅发布:FlexAttention在Apple Silicon实现12倍加速、CuTeDSL提供CUTLASS级GEMM代码生成、融合损失函数将大词汇量训练峰值显存削减4倍、torchcomms革新分布式通信后端、ExecuTorch正式并入核心,深度拆解六大核心更新与实战代码。
PyTorch
深度学习
机器学习框架
GPU
Distributed Training
FlexAttention
CUDA
GEMM
ROCm
Apple Silicon
MPS
SQLite-Vec 深度实战:当最轻量的数据库拥抱向量搜索——从零构建生产级本地 AI 语义检索系统完全指南(2026)
编程
SQLite-Vec 深度实战:当最轻量的数据库拥抱向量搜索——从零构建生产级本地 AI 语义检索系统完全指南(2026)
2026-06-05 11:14:34 +0800 CST
view 516
sqlite-vec深度实战:从架构原理到生产级部署,涵盖向量检索、RAG应用、WASM部署、int8量化优化
SQLite
向量搜索
AI
RAG
sqlite-vec
语义检索
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
编程
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
2026-06-27 12:44:29 +0800 CST
view 233
2026年LLM推理引擎深度实战:从PagedAttention、连续批处理、量化技术到生产级K8s部署,万字长文覆盖vLLM、SGLang、TensorRT-LLM、TGI四大框架架构原理与实测对比
LLM推理
vLLM
PagedAttention
SGLang
推理优化
TensorRT-LLM
生产部署
KV Cache
量化
File-as-State:零重型框架的 AI Agent 生产级自动化架构——从多步任务崩溃到 99.9% 可靠性的完整工程指南(2026)
编程
File-as-State:零重型框架的 AI Agent 生产级自动化架构——从多步任务崩溃到 99.9% 可靠性的完整工程指南(2026)
2026-07-04 03:41:28 +0800 CST
view 136
2026 年 AI Agent 从 Demo 走向生产的最大拦路虎是多步任务的状态管理。本文提出 File-as-State 架构,基于文件系统实现零重型框架的 Agent 状态管理,含完整代码实战与生产部署指南。
File-as-State
AI Agent
状态管理
生产级
轻量级架构
文件系统
LangGraph替代
Temporal替代
LLM 推理的显存战争:从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析(2026)
编程
LLM 推理的显存战争:从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析(2026)
2026-06-15 11:18:23 +0800 CST
view 332
深度解析大模型推理中 KV Cache 管理的五世代演进:从连续分配到 PagedAttention,再到异构缓存、分布式 KV 和统一混合内存架构。结合 vLLM、SGLang、TensorRT-LLM 给出生产环境选型指南。
LLM
大模型
KVCache
PagedAttention
vLLM
SGLang
TensorRT
推理优化
显存管理
分布式
WWDC 2026深度解析:苹果AI战略全面重构,Siri从语音助手进化为智能体 —— 从系统架构到开发者机遇的完全指南
编程
WWDC 2026深度解析:苹果AI战略全面重构,Siri从语音助手进化为智能体 —— 从系统架构到开发者机遇的完全指南
2026-06-09 18:15:56 +0800 CST
view 400
WWDC 2026正式发布全新Siri AI,从技术架构到开发者生态全面解析苹果AI战略反击战
WWDC
Apple
Siri
AI
iOS
macOS
App Intents
Apple Intelligence
SQLite-Vec 深度实战:当嵌入式数据库学会了向量搜索——从本地 RAG 到端侧 AI 应用的生产级完全指南(2026)
编程
SQLite-Vec 深度实战:当嵌入式数据库学会了向量搜索——从本地 RAG 到端侧 AI 应用的生产级完全指南(2026)
2026-06-21 10:26:56 +0800 CST
view 309
SQLite-Vec 完全指南:让嵌入式数据库拥有向量搜索能力。从架构原理到代码实战,详解本地 RAG 系统、向量索引优化、端侧部署方案,附带完整可运行代码。
SQLite
向量数据库
RAG
AI
嵌入式数据库
sqlite-vec
本地AI
TypeScript 5.5-5.6 深度解析:类型体操进阶、工具类型优化、编译性能提升 50%
编程
TypeScript 5.5-5.6 深度解析:类型体操进阶、工具类型优化、编译性能提升 50%
2026-05-14 04:16:26 +0800 CST
view 427
TypeScript 5.5-5.6深度解析:switch/case完全覆盖检查、Iterator Helpers迭代器助手节省内存、禁止无用真值/空值检查、编译性能提升29-38%、ES2022/ES2023目标支持。
TypeScript5.5,TypeScript5.6,类型体操,工具类型,编译性能,Iterator Helpers
Hermes Agent 最大的彩蛋:90%的人不知道的斜杠命令完全指南
编程
Hermes Agent 最大的彩蛋:90%的人不知道的斜杠命令完全指南
2026-04-27 06:20:34 +0800 CST
view 767
Nous Research出品的Hermes Agent拥有极其丰富的斜杠命令体系,涵盖日常对话、专业开发、多平台消息网关等完整场景。本文按使用频率分类整理,助你快速掌握这把AI瑞士军刀。
Hermes Agent
Nous Research
斜杠命令
AI Agent
OpenRouter
ES2026 深度解析:Records & Tuples、using 关键字与惰性迭代器——JavaScript 正在变成一门正经语言
编程
ES2026 深度解析:Records & Tuples、using 关键字与惰性迭代器——JavaScript 正在变成一门正经语言
2026-05-10 11:52:52 +0800 CST
view 433
ES2026 三大核心特性深度解析:Records & Tuples 深度不可变值类型、using 关键字 RAII 资源管理、Iterator Helpers 惰性求值迭代器,以及它们如何从根本上改变 JavaScript 开发范式。
JavaScript
ES2026
Records
Tuples
using
Iterator
前端
编程语言
GraphQL.js v17 + Hive Router Demand Control:当 GraphQL 终于学会「算账」——从原生 TypeScript 重写到成本控制革命的完全指南(2026)
编程
GraphQL.js v17 + Hive Router Demand Control:当 GraphQL 终于学会「算账」——从原生 TypeScript 重写到成本控制革命的完全指南(2026)
2026-06-22 21:26:46 +0800 CST
view 172
2026年6月19日 GraphQL.js v17 发布,原生 TypeScript 重写、ESM 优先。同日 Hive Router 推出 Demand Control 功能,解决 GraphQL 查询成本逃逸问题。本文深度剖析技术原理、迁移指南与生产实践。
GraphQL
TypeScript
ESM
Hive Router
Demand Control
OpenAPI
ECMAScript 2026 深度实战:第17版规范的 8 大新特性从入门到精通——从高精度求和到 JSON 精细控制
编程
ECMAScript 2026 深度实战:第17版规范的 8 大新特性从入门到精通——从高精度求和到 JSON 精细控制
2026-07-12 13:16:13 +0800 CST
view 68
深度解析 ECMAScript 2026(ES2026)规范的8大核心新特性:Math.sumPrecise高精度求和、Iterator.concat惰性拼接、Array.fromAsync异步转数组、Error.isError可靠识别、Map.getOrElse默认值、Uint8Array原生编码、JSON增强reviver与rawJSON,配完整代码示例与生产级实战指南。
ECMAScript 2026
JavaScript
ES2026
TypeScript
Math.sumPrecise
Iterator.concat
Array.fromAsync
JSON
前端
Node.js
Hermes Agent 深度解析:20万Star的自进化AI Agent如何用SQLite+FTS5+技能蒸馏让智能体「越用越聪明」——从记忆架构到生产级实战的完整指南
编程
Hermes Agent 深度解析:20万Star的自进化AI Agent如何用SQLite+FTS5+技能蒸馏让智能体「越用越聪明」——从记忆架构到生产级实战的完整指南
2026-07-06 20:43:59 +0800 CST
view 101
深度解析GitHub 20万+ Stars的Hermes Agent自进化AI智能体:三层记忆架构(内置记忆+外部记忆+SQLite FTS5会话搜索)、技能自动蒸馏与迭代、ContextCompressor上下文压缩、跨平台Gateway设计、MCP工具扩展。含完整代码示例、部署实战与性能基准测试。
Hermes Agent
自进化Agent
SQLite
FTS5
AI Agent
技能蒸馏
Nous Research
记忆系统
MCP
开源
Hermes Agent 深度解析:当 AI 学会「自我进化」——从四层记忆架构到技能自生成的工程全解
编程
Hermes Agent 深度解析:当 AI 学会「自我进化」——从四层记忆架构到技能自生成的工程全解
2026-04-13 02:56:20 +0800 CST
view 1479
深度解析Hermes Agent的工程实现:四层记忆架构(SQLite+FTS5)、技能自生成闭环、与OpenClaw的本质对比,以及这条「自我进化」路线对AI工具链未来的意义。
AI Agent
Hermes Agent
自我进化
记忆架构
Nous Research
技能系统
SQLite
机器学习
Hermes-Agent 自进化 AI Agent 架构深度解析:三层记忆体系与闭环学习原理解密
编程
Hermes-Agent 自进化 AI Agent 架构深度解析:三层记忆体系与闭环学习原理解密
2026-07-10 00:46:47 +0800 CST
view 86
深度解析 Nous Research 开源的 Hermes-Agent 项目,10万+ Star 的自进化 AI Agent 框架,剖析三层记忆体系、闭环学习机制、200+模型兼容性,提供 Docker+Ollama 本地化部署实战与性能优化指南
AI Agent
Hermes-Agent
Nous Research
Python
记忆系统
SQLite
闭环学习
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
29
30
31
32
33
...
73
下一页