程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
2026-08-04 22:46:33 +0800 CST
view 216
深度拆解Redis创始人antirez打造的DwarfStar 4本地推理引擎:专用MoE推理栈、非对称2-Bit量化、磁盘KV缓存、SSD流式加载、多机流水线并行,在128GB MacBook上跑出26 tok/s的284B模型推理
DwarfStar
Redis
antirez
DeepSeek
MoE
本地推理
LLM
推理引擎
2-Bit量化
KV缓存
Apple Metal
CUDA
开源
ds4 深度实战:当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南
编程
ds4 深度实战:当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南
2026-06-11 07:51:35 +0800 CST
view 1052
Redis之父antirez新作ds4深度解析:非对称2-bit量化、KV缓存磁盘持久化、Metal极致优化,284B模型在MacBook上跑出26 tok/s的完全指南
ds4
DeepSeek
本地推理
Metal
KV缓存
量化
antirez
Redis
Redis 8.8 深度解析:全新 Array 数据结构、窗口计数器限流、Streams NACK——性能暴涨 83% 背后的架构革命
编程
Redis 8.8 深度解析:全新 Array 数据结构、窗口计数器限流、Streams NACK——性能暴涨 83% 背后的架构革命
2026-06-30 08:43:38 +0800 CST
view 390
Redis 8.8 GA 发布:全新 Array 数据结构、原生窗口计数器限流、Streams NACK 消息拒绝机制、Hash 字段级通知、Time Series 多聚合器支持。MGET 性能提升 68%、XREADGROUP 提升 83%、持久化提速 60%。15000 字深度解析,附 15 个完整代码示例。
Redis
NoSQL
性能优化
数据结构
缓存
限流
消息队列
时序数据库
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
编程
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
2026-06-30 11:16:18 +0800 CST
view 361
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
编程
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
2026-06-30 11:17:15 +0800 CST
view 442
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
LCLM 深度实战:当「潜在上下文」颠覆大模型记忆困境——从 8.8 倍速提升到工业级部署的完整指南(2026)
编程
LCLM 深度实战:当「潜在上下文」颠覆大模型记忆困境——从 8.8 倍速提升到工业级部署的完整指南(2026)
2026-06-17 08:57:22 +0800 CST
view 392
深入解析2026年LCLM潜在上下文语言模型,8.8倍速度提升背后的技术原理与工业级部署实战,含完整代码示例与性能对比。
大模型
上下文压缩
KV缓存
LCLM
Transformer
AI优化
推理加速
当「潜在上下文」颠覆大模型记忆困境:LCLM 8.8 倍速提升完整拆解与工业部署指南(2026)
编程
当「潜在上下文」颠覆大模型记忆困境:LCLM 8.8 倍速提升完整拆解与工业部署指南(2026)
2026-06-17 08:57:46 +0800 CST
view 401
深入解析2026年LCLM潜在上下文语言模型,8.8倍速度提升背后的技术原理与工业级部署实战,含完整代码示例与性能对比。
大模型
上下文压缩
KV缓存
LCLM
Transformer
AI优化
推理加速
百度Unlimited-OCR深度解析:R-SWA常量KV缓存如何让OCR一口气吃下几十页文档——从单图解析到多页PDF的完整实战指南
编程
百度Unlimited-OCR深度解析:R-SWA常量KV缓存如何让OCR一口气吃下几十页文档——从单图解析到多页PDF的完整实战指南
2026-07-06 11:16:05 +0800 CST
view 413
深度解析百度开源Unlimited-OCR:13K+ Stars,R-SWA常量KV缓存让端到端OCR模型在32K上下文下一次性转录几十页文档。从架构设计到vLLM/SGLang生产部署完整实战指南。
Unlimited-OCR
百度
R-SWA
OCR
KV缓存
文档解析
长文档
vLLM
Valkey 8.0 深度实战:当 Redis 分支版本单节点性能媲美集群——从异步 IO 线程到数据预取、从内存访问分摊到百万 QPS 生产级完全指南(2026)
编程
Valkey 8.0 深度实战:当 Redis 分支版本单节点性能媲美集群——从异步 IO 线程到数据预取、从内存访问分摊到百万 QPS 生产级完全指南(2026)
2026-06-23 05:23:57 +0800 CST
view 434
Valkey 8.0 通过异步 IO 线程、数据预取和内存访问分摊技术,使单节点性能突破 100 万 QPS,媲美 Redis Cluster。本文从架构原理到生产部署,提供完整实战指南。
Valkey
Redis
缓存
高性能
键值存储
异步IO
NUMA
Redis 8.x 深度拆解:当缓存中间件进化成 AI 原生数据平台——从 Vector Set、语义缓存、多线程 IO 到 AGPLv3 回归的工程全貌(2026)
编程
Redis 8.x 深度拆解:当缓存中间件进化成 AI 原生数据平台——从 Vector Set、语义缓存、多线程 IO 到 AGPLv3 回归的工程全貌(2026)
2026-07-19 11:42:51 +0800 CST
view 279
深度拆解Redis 8.x系列版本:从Vector Set原生向量搜索、5种概率数据结构、多线程I/O架构,到AGPLv3协议回归和Valkey分支对比,配完整代码实战与生产迁移指南。Redis不再只是缓存,它正在成为AI原生数据平台。
Redis
Redis 8.x
Vector Set
向量搜索
多线程
AI原生
AGPLv3
语义缓存
开源
River-LLM 深度解析:上交大如何让大模型推理速度翻倍,却几乎不损失精度
编程
River-LLM 深度解析:上交大如何让大模型推理速度翻倍,却几乎不损失精度
2026-05-02 19:05:49 +0800 CST
view 681
深入解析上海交通大学 River-LLM 框架:通过退出层与骨干层共享 KV 缓存,解决早期退出的缓存缺失难题,实现 1.71x-2.16x 推理加速,几乎不损失精度。
LLM
推理优化
KV缓存
早期退出
量化
上海交通大学
Redis 8.x 深度拆解:从缓存中间件到 AI 原生数据平台的进化之路——Vector Set、语义缓存、多线程 IO 与 AGPLv3 回归(2026)
编程
Redis 8.x 深度拆解:从缓存中间件到 AI 原生数据平台的进化之路——Vector Set、语义缓存、多线程 IO 与 AGPLv3 回归(2026)
2026-07-19 11:43:43 +0800 CST
view 310
深度拆解Redis 8.x系列版本:从Vector Set原生向量搜索、5种概率数据结构、多线程I/O架构,到AGPLv3协议回归和Valkey分支对比,配完整代码实战与生产迁移指南。Redis不再只是缓存,它正在成为AI原生数据平台。
Redis
Redis 8.x
Vector Set
向量搜索
多线程
AI原生
AGPLv3
语义缓存
开源
Redis 8 深度解析:开源缓存的「性能狂飙」与「One Redis」革命
编程
Redis 8 深度解析:开源缓存的「性能狂飙」与「One Redis」革命
2026-05-12 02:25:32 +0800 CST
view 763
深度解析Redis 8的核心突破:One Redis理念将所有模块内置告别碎片化、I/O线程机制重写让吞吐量提升112%(8线程)、30项性能优化让命令延迟最高降低87%、内存优化让Hash表占用-16.7%有序集合-30.5%、新增8种数据结构(Vector Set/JSON/Time Series/概率结构)、Redis Query Engine查询处理能力16倍提升、Redis 8.6新增热键检测HOTKEYS与LRM逐出策略
Redis8,缓存,性能优化,OneRedis,数据结构,内存优化,I/O线程,全文搜索,向量搜索,热键检测
DeepSeek-Reasonix 深度解析:13K+ Stars 的 DeepSeek 原生编码 Agent 如何用 Go 重写 + Cache-First 架构让长会话成本暴跌 80%——从 prefix-cache 原理到生产级实战的完整指南
编程
DeepSeek-Reasonix 深度解析:13K+ Stars 的 DeepSeek 原生编码 Agent 如何用 Go 重写 + Cache-First 架构让长会话成本暴跌 80%——从 prefix-cache 原理到生产级实战的完整指南
2026-07-06 23:42:51 +0800 CST
view 416
深度解析GitHub 13K+ Stars的DeepSeek-Reasonix终端AI编码代理:Go从零重写、Cache-First Loop架构、99%缓存命中率、Tool-Call Repair自愈、R1 Thought Harvest思维链收割、Auto模型切换、Tauri桌面客户端、QQ频道远程控制。从prefix-cache原理到生产级实战,含完整代码示例与竞品对比。
DeepSeek
Reasonix
AI Agent
终端编程
prefix-cache
Go
缓存优化
开源
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
编程
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
2026-07-30 21:49:19 +0800 CST
view 164
深度拆解 LLM 推理服务的七层优化栈:PagedAttention 分页显存与写时复制、连续批处理消灭队头阻塞、前缀缓存命中率实操、Chunked Prefill 与 PD 分离决策、KV Cache 分层复用的拉取/重算临界点、投机解码加速比数学与失效场景、量化与并行选型。附大量可运行代码、压测骨架、调优顺序与七个常见误区。
LLM推理
vLLM
SGLang
PagedAttention
PD分离
KV Cache
前缀缓存
投机解码
Chunked Prefill
性能优化
Redis 8.x AI 原生深度拆解:从缓存到 AI 实时数据基础设施——向量搜索、语义缓存、Agent Memory 工程实战
编程
Redis 8.x AI 原生深度拆解:从缓存到 AI 实时数据基础设施——向量搜索、语义缓存、Agent Memory 工程实战
2026-07-30 22:43:18 +0800 CST
view 221
深度拆解 Redis 8.x 的 AI 原生能力:Vector Sets 原生向量数据类型、HNSW/SVS-VAMANA 向量索引、LangCache 语义缓存、Agent Memory 智能体记忆层、完整 RAG Pipeline 实战,以及生产部署架构决策与渐进式采纳路线。万字长文,代码实战。
Redis
AI原生
向量搜索
语义缓存
Agent Memory
RAG
Spring AI
Vector Sets
HNSW
LangCache
Redis 8.x 深度实战:当内存数据库遇见 AI 原生——从 Vector Set 到 JSON 原生支持、IO 多线程与生产级架构完全指南(2026)
编程
Redis 8.x 深度实战:当内存数据库遇见 AI 原生——从 Vector Set 到 JSON 原生支持、IO 多线程与生产级架构完全指南(2026)
2026-06-18 05:55:22 +0800 CST
view 623
深度解析 Redis 8.x 核心架构升级,涵盖 Vector Set 向量类型、原生 JSON 支持、IO 多线程重构,并结合秒杀、RAG 知识库、多级缓存三大生产场景给出实战方案。
Redis
向量数据库
AI基础设施
缓存架构
JSON
如何在Go中使用`gobuildmode=plugin`构建可插拔的库。通过编译共享对象文件,开发者可以在运行时动态加载插件,扩展应用功能
编程
如何在Go中使用`gobuildmode=plugin`构建可插拔的库。通过编译共享对象文件,开发者可以在运行时动态加载插件,扩展应用功能
2024-11-18 12:19:19 +0800 CST
view 1767
本文介绍了如何在Go中使用`gobuildmode=plugin`构建可插拔的库。通过编译共享对象文件,开发者可以在运行时动态加载插件,扩展应用功能。示例中展示了一个计算斐波那契数列的API,并实现了内存和Redis缓存插件。使用`plugin`包的`Open`和`Lookup`函数加载插件,提供了灵活的功能扩展方式。
Go语言
插件开发
软件架构
动态扩展
缓存机制
当Go终于有了官方锁分片:8倍性能提升背后的技术内幕与生产迁移完全指南(2026)
编程
当Go终于有了官方锁分片:8倍性能提升背后的技术内幕与生产迁移完全指南(2026)
2026-07-13 12:49:27 +0800 CST
view 249
深度解析Go 1.27官方锁分片技术:从sync.Mutex痛点到分片锁设计原理、8倍性能提升内幕、GODEBUG废弃策略、Delve 1.27 arm64调试,配完整代码示例
Go
Go1.27
锁分片
并发编程
sync
性能优化
并发缓存
Valkey 深度实战:当 Redis 被改写许可证,社区分叉如何用异步 I/O 线程吃下 1.19M RPS——从 RESP 协议、单线程模型到生产级迁移的完整工程指南(2026)
编程
Valkey 深度实战:当 Redis 被改写许可证,社区分叉如何用异步 I/O 线程吃下 1.19M RPS——从 RESP 协议、单线程模型到生产级迁移的完整工程指南(2026)
2026-07-20 04:46:06 +0800 CST
view 226
Valkey 8.0 深度实战:从 RESP 协议、单线程模型到异步 I/O 线程重写,剖析它如何用 1.19M RPS 吃下 Redis 许可证风暴后的市场,并给出零停机迁移与性能调优的完整工程指南。
Valkey
Redis替代
RESP协议
异步IO线程
内存数据库
生产迁移
缓存
Green Tea GC 深度拆解:Go 1.26 把跑了十年的三色标记换掉了——从「对象为中心」到「内存为中心」,一次为 CPU 缓存重写的垃圾回收器
编程
Green Tea GC 深度拆解:Go 1.26 把跑了十年的三色标记换掉了——从「对象为中心」到「内存为中心」,一次为 CPU 缓存重写的垃圾回收器
2026-08-08 12:46:53 +0800 CST
view 108
Go 1.26 默认启用 Green Tea GC:深度拆解 span 批量扫描、marks/scans 双位图、SPMC 工作窃取队列、FIFO 为何胜过 LIFO、AVX512 扫描内核,含实测方法、受益/不受益负载判断与七条调优经验。
Go
Go1.26
Green Tea GC
垃圾回收
三色标记
runtime
性能优化
SIMD
缓存局部性
goroutine泄漏
工作窃取
内存管理
Go 如何做好缓存
编程
Go 如何做好缓存
2024-11-18 13:33:37 +0800 CST
view 1416
本文详细介绍了如何在Go中设计和实现高效的缓存机制,包括缓存设计思路、状态管理、淘汰策略、更新策略和预热机制。通过合理的缓存方案(如分布式缓存和本地缓存)和使用LRU淘汰策略,可以显著提升系统性能并确保数据一致性。
编程
系统设计
性能优化
缓存
Go语言
Python包用于缓存函数的返回结果,以便持久化并保存在本地
编程
Python包用于缓存函数的返回结果,以便持久化并保存在本地
2024-11-18 10:34:48 +0800 CST
view 1620
这个Python包用于缓存函数的返回结果,以便持久化并保存在本地。它通过函数参数和代码变动判断是否读取已有缓存,适合运行时间长但结果不常变化的函数。示例展示了如何使用缓存注解提升效率,包括分文件缓存、按时间缓存和排除某些参数的高级用法。更多信息请参考GitHub仓库。
编程
Python
性能优化
缓存
开源
Valkey 深度实战:从 Redis 许可证风波到每秒 10 亿请求的工程化完全指南(2026)
编程
Valkey 深度实战:从 Redis 许可证风波到每秒 10 亿请求的工程化完全指南(2026)
2026-06-04 20:15:17 +0800 CST
view 868
从 Redis 许可证风波到 Valkey 9.x 每秒 10 亿请求的完整工程指南:Lock-free IO、原子 Slot 迁移、Hash 字段过期、ARM SIMD 优化、生产迁移实战
Valkey
Redis
缓存
NoSQL
数据库
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
5
6
7
8
9
下一页