程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
LLM 推理的显存战争:从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析(2026)
编程
LLM 推理的显存战争:从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析(2026)
2026-06-15 11:18:23 +0800 CST
view 294
深度解析大模型推理中 KV Cache 管理的五世代演进:从连续分配到 PagedAttention,再到异构缓存、分布式 KV 和统一混合内存架构。结合 vLLM、SGLang、TensorRT-LLM 给出生产环境选型指南。
LLM
大模型
KVCache
PagedAttention
vLLM
SGLang
TensorRT
推理优化
显存管理
分布式
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
编程
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
2026-06-15 21:20:49 +0800 CST
view 199
深入解析小米MiMo UltraSpeed如何通过SWA架构在通用GPU上突破1000 tokens/s推理速度,从O(n²)困境到极致跨越的完整技术指南。
SWA
Sliding Window Attention
LLM推理
小米MiMo
推理优化
Transformer
PagedAttention
量化推理
端侧AI
JavaScript 2026 新特性深度实战:Iterator Helpers、Set 集合运算、RegExp 转义与更多——从语言规范到工程落地的完整指南
编程
JavaScript 2026 新特性深度实战:Iterator Helpers、Set 集合运算、RegExp 转义与更多——从语言规范到工程落地的完整指南
2026-04-23 23:39:35 +0800 CST
view 596
深度解析JavaScript 2025-2026核心新特性:Iterator Helpers惰性求值、Set集合运算7个新方法、RegExp.escape正则转义、using声明资源管理、Temporal API日期时间革命
JavaScript
ES2025
ES2026
Iterator Helpers
Set
RegExp
Temporal
前端开发
Odysseus 深度实战:当 YouTuber 之王用 Python 重写「AI 工作台」——从 FastAPI 微服务到 MCP Agent 与 ChromaDB 记忆系统的生产级完全指南(2026)
编程
Odysseus 深度实战:当 YouTuber 之王用 Python 重写「AI 工作台」——从 FastAPI 微服务到 MCP Agent 与 ChromaDB 记忆系统的生产级完全指南(2026)
2026-06-14 15:50:01 +0800 CST
view 288
深度剖析 PewDiePie 开源的 Odysseus 自托管 AI 工作空间:从 FastAPI 微服务架构到 MCP Agent 系统与 ChromaDB 记忆系统,含完整部署实战与性能优化指南
Odysseus
self-hosted
AI workspace
FastAPI
MCP
ChromaDB
Agent
自托管
本地AI
Deep Research
GreptimeDB 深度实战:当可观测性告别「三件套」——从宽事件统一引擎到存算分离、Flow 流处理与 PB 级日检索亚秒的生产级完全指南(2026)
编程
GreptimeDB 深度实战:当可观测性告别「三件套」——从宽事件统一引擎到存算分离、Flow 流处理与 PB 级日检索亚秒的生产级完全指南(2026)
2026-06-17 10:58:30 +0800 CST
view 228
GreptimeDB深度实战:从宽事件统一模型到存算分离架构、Flow流处理引擎、SQL+PromQL双查询、PB级亚秒检索的完整生产级指南
GreptimeDB
可观测性
时序数据库
Rust
OpenTelemetry
Zed 1.3 Terminal Threads 深度实战:当终端遇上 AI 代理——编辑器工作流的范式革命(2026 完全指南)
编程
Zed 1.3 Terminal Threads 深度实战:当终端遇上 AI 代理——编辑器工作流的范式革命(2026 完全指南)
2026-05-25 08:53:35 +0800 CST
view 461
深度剖析 Zed 1.3 Terminal Threads 的架构设计、实战配置与性能优化,解析终端代理管理如何重塑 AI 编码工作流
Zed
Terminal Threads
AI代理
Rust
编辑器
last30days-skill 深度实战:当 AI 学会「跨平台研究」——从 Reddit 投票到 Polymarket 赌注,构建你的全能 AI 研究助手的完全指南(2026)
编程
last30days-skill 深度实战:当 AI 学会「跨平台研究」——从 Reddit 投票到 Polymarket 赌注,构建你的全能 AI 研究助手的完全指南(2026)
2026-06-15 05:47:38 +0800 CST
view 254
last30days-skill 是一个革命性的 AI agent 技能,它打破了平台壁垒,能够并行搜索 Reddit、X、YouTube、TikTok、Hacker News、Polymarket、GitHub 等多个平台,通过真实用户的投票、点赞、评论和真金白银的赌注来评分内容,最终由 AI 裁判合成一份简洁而全面的摘要报告。本文深入剖析其核心原理、v3 引擎架构、安装配置、实战用法和性能优化技巧。
AI Agent
信息检索
跨平台研究
Reddit
X/Twitter
YouTube
Polymarket
GitHub
开源项目
PostgreSQL 18 原生向量搜索深度解析:从内核原理到生产级 RAG 实战(2026)
编程
PostgreSQL 18 原生向量搜索深度解析:从内核原理到生产级 RAG 实战(2026)
2026-07-04 07:44:46 +0800 CST
view 117
深度解析 PostgreSQL 18 原生向量搜索特性:内核级向量计算、HNSW/IVFFlat 索引优化、混合查询执行计划、Python 完整代码实战、性能基准测试与生产部署最佳实践。(2026)
PostgreSQL 18
向量搜索
向量数据库
RAG
AI
Embedding
HNSW
PostgreSQL
语义检索
数据库
Python 3.14 深度实战:从 JIT 编译器到 t-string 模板——2026 年 Python 性能与语法双重革命完全指南
编程
Python 3.14 深度实战:从 JIT 编译器到 t-string 模板——2026 年 Python 性能与语法双重革命完全指南
2026-05-24 11:31:39 +0800 CST
view 380
Python 3.14深度实战:JIT编译器、t-string模板、free-threaded模式、增强模式匹配、类型系统、Zstandard压缩
Python
JIT
t-string
free-threaded
性能优化
2026年数据库格局大洗牌:Valkey 3倍性能反杀Redis、PostgreSQL 18原生向量搜索——从内核优化到AI应用落地的完整技术指南
编程
2026年数据库格局大洗牌:Valkey 3倍性能反杀Redis、PostgreSQL 18原生向量搜索——从内核优化到AI应用落地的完整技术指南
2026-07-01 18:44:36 +0800 CST
view 156
2026年数据库行业正在经历历史性转折:Redis许可证变更触发Valkey fork(3倍性能提升),PostgreSQL 18内核级原生向量搜索正式发布。本文深度解析技术本质,并提供完整的RAG系统Python/Go实现代码。
数据库
PostgreSQL
Valkey
Redis
向量搜索
AI应用
RAG
ds4 (DwarfStar) 深度实战:当 Redis 之父学会「大模型量化」——从非对称 2-bit 量化到磁盘 KV 缓存的生产级完全指南(2026)
编程
ds4 (DwarfStar) 深度实战:当 Redis 之父学会「大模型量化」——从非对称 2-bit 量化到磁盘 KV 缓存的生产级完全指南(2026)
2026-06-15 00:18:14 +0800 CST
view 328
深度剖析 Redis 之父 antirez 的最新项目 ds4 (DwarfStar),专为 DeepSeek V4 Flash 设计的本地推理引擎。涵盖非对称 2-bit 量化、磁盘 KV 缓存、Metal/CUDA 优化、内置 Coding Agent 等核心技术。
ds4
DwarfStar
antirez
Redis
大模型推理
MoE架构
量化
Python 3.14 深度实战:无 GIL 时代降临——自由线程、模板字符串与多解释器并发完全指南(2026)
编程
Python 3.14 深度实战:无 GIL 时代降临——自由线程、模板字符串与多解释器并发完全指南(2026)
2026-06-28 06:15:09 +0800 CST
view 202
2026年Python 3.14发布:Free-Threaded无GIL模式正式Tier-1支持、模板字符串T-strings、PEP 734多解释器标准库、JIT编译器官方二进制内置、增量式GC、Zstandard压缩、WebAssembly支持等核心特性深度解析
Python 3.14
Free-Threaded
多解释器
T-strings
JIT
并发编程
Python
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
案例
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
2026-05-10 08:40:22 +0800 CST
view 670
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎ds4.c,C+Metal从头编写,Mac Studio M3 Ultra上预填充468 token/s。关键优化:非对称量化(MoE专家层2-bit)、KV缓存搬硬盘、内置OpenAI/Anthropic双API。128GB Mac可跑,专为coding agent优化。
DeepSeek
AI推理
Mac
Redis
antirez
Metal
本地推理
MoE
GGUF
C语言
Apple Silicon
Claude Code
OpenAI API
Anthropic API
ds4 深度实战:当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南
编程
ds4 深度实战:当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南
2026-06-11 07:51:35 +0800 CST
view 338
Redis之父antirez新作ds4深度解析:非对称2-bit量化、KV缓存磁盘持久化、Metal极致优化,284B模型在MacBook上跑出26 tok/s的完全指南
ds4
DeepSeek
本地推理
Metal
KV缓存
量化
antirez
Redis
当 Redis 走向闭源:手搓生产级内存数据库内核,从 RESP 协议到无锁事件循环(附 Go 完整代码)
编程
当 Redis 走向闭源:手搓生产级内存数据库内核,从 RESP 协议到无锁事件循环(附 Go 完整代码)
2026-07-10 07:46:51 +0800 CST
view 16
Redis 改双协议闭源后,Valkey 如何从 Redis 7.2.4 分叉成长为 10 亿 QPS 的开源内存数据库?本文从 RESP 协议、单线程事件循环、跳表 ZSET 到 AOF 持久化,用一份可运行的 Go 代码手搓生产级 KV 引擎内核,并拆解 Valkey 8/9 的 IO 多线程与原子槽位迁移等性能演进。
Valkey
Redis
内存数据库
RESP
Go
KV存储
高性能缓存
Claude Memory Compiler 深度解析:当 AI 编程助手第一次拥有「编译器思维」的记忆系统
编程
Claude Memory Compiler 深度解析:当 AI 编程助手第一次拥有「编译器思维」的记忆系统
2026-04-10 03:35:31 +0800 CST
view 743
claude-memory-compiler 把 AI 对话当作源代码,用 LLM 编译成结构化知识库,让 Claude Code 拥有跨会话记忆能力
Claude Code
AI Agent
Knowledge Management
LLM
Memory System
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
2026-06-10 10:17:56 +0800 CST
view 262
深度解析 vLLM 的核心架构 PagedAttention 和 Continuous Batching,从内存管理原理到生产级分布式部署的完全指南。
vLLM
LLM推理
PagedAttention
GPU优化
大模型部署
AI推理
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
编程
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
2026-07-10 17:44:16 +0800 CST
view 8
深度对比2026年四大主流LLM推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9,涵盖PagedAttention、FP8量化、ZeRO-3、连续批处理等核心技术原理,配生产级代码示例与实测性能数据。
LLM
vLLM
TensorRT-LLM
TGI
DeepSpeed
推理优化
量化
AI部署
百度 Unlimited OCR 深度解析:R-SWA 把 KV Cache 压成常数,长文档 OCR 终于迎来「一次看完」时代
编程
百度 Unlimited OCR 深度解析:R-SWA 把 KV Cache 压成常数,长文档 OCR 终于迎来「一次看完」时代
2026-06-29 15:13:32 +0800 CST
view 140
百度 Unlimited OCR 用 R-SWA 机制把 KV Cache 压成常数,首次实现 40+ 页文档单次前向解析。深度解析 R-SWA 原理、模型架构、性能基准与实战部署。
百度
Unlimited OCR
OCR
R-SWA
KV Cache
长文档
端到端OCR
DeepEncoder
MoE
参考滑动窗口注意力
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
编程
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
2026-06-29 17:16:04 +0800 CST
view 235
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
编程
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
2026-06-29 17:17:00 +0800 CST
view 146
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
百度 Unlimited OCR 深度解析:R-SWA 如何把 KV Cache 从线性增长压成常数,端到端 OCR 的长文档革命
编程
百度 Unlimited OCR 深度解析:R-SWA 如何把 KV Cache 从线性增长压成常数,端到端 OCR 的长文档革命
2026-06-29 19:45:14 +0800 CST
view 105
深度解析百度开源的 Unlimited OCR:R-SWA 如何把 KV Cache 从线性增长压成常数,解决长文档 OCR 的失忆问题,OmniDocBench v1.6 刷新 SOTA 93.92%
Unlimited OCR
百度
OCR
端到端
长文档
R-SWA
开源
深度学习
文档解析
Markdown
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
2026-06-11 03:16:24 +0800 CST
view 304
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
编程
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
2026-06-11 03:17:21 +0800 CST
view 579
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
10
11
12
13
14
...
74
下一页