程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
编程
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
2026-06-30 11:16:18 +0800 CST
view 192
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
编程
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
2026-06-30 11:17:15 +0800 CST
view 246
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
LCLM 深度实战:当「潜在上下文」颠覆大模型记忆困境——从 8.8 倍速提升到工业级部署的完整指南(2026)
编程
LCLM 深度实战:当「潜在上下文」颠覆大模型记忆困境——从 8.8 倍速提升到工业级部署的完整指南(2026)
2026-06-17 08:57:22 +0800 CST
view 277
深入解析2026年LCLM潜在上下文语言模型,8.8倍速度提升背后的技术原理与工业级部署实战,含完整代码示例与性能对比。
大模型
上下文压缩
KV缓存
LCLM
Transformer
AI优化
推理加速
当「潜在上下文」颠覆大模型记忆困境:LCLM 8.8 倍速提升完整拆解与工业部署指南(2026)
编程
当「潜在上下文」颠覆大模型记忆困境:LCLM 8.8 倍速提升完整拆解与工业部署指南(2026)
2026-06-17 08:57:46 +0800 CST
view 290
深入解析2026年LCLM潜在上下文语言模型,8.8倍速度提升背后的技术原理与工业级部署实战,含完整代码示例与性能对比。
大模型
上下文压缩
KV缓存
LCLM
Transformer
AI优化
推理加速
百度Unlimited-OCR深度解析:R-SWA常量KV缓存如何让OCR一口气吃下几十页文档——从单图解析到多页PDF的完整实战指南
编程
百度Unlimited-OCR深度解析:R-SWA常量KV缓存如何让OCR一口气吃下几十页文档——从单图解析到多页PDF的完整实战指南
2026-07-06 11:16:05 +0800 CST
view 195
深度解析百度开源Unlimited-OCR:13K+ Stars,R-SWA常量KV缓存让端到端OCR模型在32K上下文下一次性转录几十页文档。从架构设计到vLLM/SGLang生产部署完整实战指南。
Unlimited-OCR
百度
R-SWA
OCR
KV缓存
文档解析
长文档
vLLM
Valkey 8.0 深度实战:当 Redis 分支版本单节点性能媲美集群——从异步 IO 线程到数据预取、从内存访问分摊到百万 QPS 生产级完全指南(2026)
编程
Valkey 8.0 深度实战:当 Redis 分支版本单节点性能媲美集群——从异步 IO 线程到数据预取、从内存访问分摊到百万 QPS 生产级完全指南(2026)
2026-06-23 05:23:57 +0800 CST
view 253
Valkey 8.0 通过异步 IO 线程、数据预取和内存访问分摊技术,使单节点性能突破 100 万 QPS,媲美 Redis Cluster。本文从架构原理到生产部署,提供完整实战指南。
Valkey
Redis
缓存
高性能
键值存储
异步IO
NUMA
River-LLM 深度解析:上交大如何让大模型推理速度翻倍,却几乎不损失精度
编程
River-LLM 深度解析:上交大如何让大模型推理速度翻倍,却几乎不损失精度
2026-05-02 19:05:49 +0800 CST
view 503
深入解析上海交通大学 River-LLM 框架:通过退出层与骨干层共享 KV 缓存,解决早期退出的缓存缺失难题,实现 1.71x-2.16x 推理加速,几乎不损失精度。
LLM
推理优化
KV缓存
早期退出
量化
上海交通大学
Redis 8 深度解析:开源缓存的「性能狂飙」与「One Redis」革命
编程
Redis 8 深度解析:开源缓存的「性能狂飙」与「One Redis」革命
2026-05-12 02:25:32 +0800 CST
view 536
深度解析Redis 8的核心突破:One Redis理念将所有模块内置告别碎片化、I/O线程机制重写让吞吐量提升112%(8线程)、30项性能优化让命令延迟最高降低87%、内存优化让Hash表占用-16.7%有序集合-30.5%、新增8种数据结构(Vector Set/JSON/Time Series/概率结构)、Redis Query Engine查询处理能力16倍提升、Redis 8.6新增热键检测HOTKEYS与LRM逐出策略
Redis8,缓存,性能优化,OneRedis,数据结构,内存优化,I/O线程,全文搜索,向量搜索,热键检测
DeepSeek-Reasonix 深度解析:13K+ Stars 的 DeepSeek 原生编码 Agent 如何用 Go 重写 + Cache-First 架构让长会话成本暴跌 80%——从 prefix-cache 原理到生产级实战的完整指南
编程
DeepSeek-Reasonix 深度解析:13K+ Stars 的 DeepSeek 原生编码 Agent 如何用 Go 重写 + Cache-First 架构让长会话成本暴跌 80%——从 prefix-cache 原理到生产级实战的完整指南
2026-07-06 23:42:51 +0800 CST
view 132
深度解析GitHub 13K+ Stars的DeepSeek-Reasonix终端AI编码代理:Go从零重写、Cache-First Loop架构、99%缓存命中率、Tool-Call Repair自愈、R1 Thought Harvest思维链收割、Auto模型切换、Tauri桌面客户端、QQ频道远程控制。从prefix-cache原理到生产级实战,含完整代码示例与竞品对比。
DeepSeek
Reasonix
AI Agent
终端编程
prefix-cache
Go
缓存优化
开源
Redis 8.x 深度实战:当内存数据库遇见 AI 原生——从 Vector Set 到 JSON 原生支持、IO 多线程与生产级架构完全指南(2026)
编程
Redis 8.x 深度实战:当内存数据库遇见 AI 原生——从 Vector Set 到 JSON 原生支持、IO 多线程与生产级架构完全指南(2026)
2026-06-18 05:55:22 +0800 CST
view 370
深度解析 Redis 8.x 核心架构升级,涵盖 Vector Set 向量类型、原生 JSON 支持、IO 多线程重构,并结合秒杀、RAG 知识库、多级缓存三大生产场景给出实战方案。
Redis
向量数据库
AI基础设施
缓存架构
JSON
如何在Go中使用`gobuildmode=plugin`构建可插拔的库。通过编译共享对象文件,开发者可以在运行时动态加载插件,扩展应用功能
编程
如何在Go中使用`gobuildmode=plugin`构建可插拔的库。通过编译共享对象文件,开发者可以在运行时动态加载插件,扩展应用功能
2024-11-18 12:19:19 +0800 CST
view 1606
本文介绍了如何在Go中使用`gobuildmode=plugin`构建可插拔的库。通过编译共享对象文件,开发者可以在运行时动态加载插件,扩展应用功能。示例中展示了一个计算斐波那契数列的API,并实现了内存和Redis缓存插件。使用`plugin`包的`Open`和`Lookup`函数加载插件,提供了灵活的功能扩展方式。
Go语言
插件开发
软件架构
动态扩展
缓存机制
当Go终于有了官方锁分片:8倍性能提升背后的技术内幕与生产迁移完全指南(2026)
编程
当Go终于有了官方锁分片:8倍性能提升背后的技术内幕与生产迁移完全指南(2026)
2026-07-13 12:49:27 +0800 CST
view 107
深度解析Go 1.27官方锁分片技术:从sync.Mutex痛点到分片锁设计原理、8倍性能提升内幕、GODEBUG废弃策略、Delve 1.27 arm64调试,配完整代码示例
Go
Go1.27
锁分片
并发编程
sync
性能优化
并发缓存
Valkey 深度实战:当 Redis 被改写许可证,社区分叉如何用异步 I/O 线程吃下 1.19M RPS——从 RESP 协议、单线程模型到生产级迁移的完整工程指南(2026)
编程
Valkey 深度实战:当 Redis 被改写许可证,社区分叉如何用异步 I/O 线程吃下 1.19M RPS——从 RESP 协议、单线程模型到生产级迁移的完整工程指南(2026)
2026-07-20 04:46:06 +0800 CST
view 5
Valkey 8.0 深度实战:从 RESP 协议、单线程模型到异步 I/O 线程重写,剖析它如何用 1.19M RPS 吃下 Redis 许可证风暴后的市场,并给出零停机迁移与性能调优的完整工程指南。
Valkey
Redis替代
RESP协议
异步IO线程
内存数据库
生产迁移
缓存
Go 如何做好缓存
编程
Go 如何做好缓存
2024-11-18 13:33:37 +0800 CST
view 1321
本文详细介绍了如何在Go中设计和实现高效的缓存机制,包括缓存设计思路、状态管理、淘汰策略、更新策略和预热机制。通过合理的缓存方案(如分布式缓存和本地缓存)和使用LRU淘汰策略,可以显著提升系统性能并确保数据一致性。
编程
系统设计
性能优化
缓存
Go语言
Python包用于缓存函数的返回结果,以便持久化并保存在本地
编程
Python包用于缓存函数的返回结果,以便持久化并保存在本地
2024-11-18 10:34:48 +0800 CST
view 1535
这个Python包用于缓存函数的返回结果,以便持久化并保存在本地。它通过函数参数和代码变动判断是否读取已有缓存,适合运行时间长但结果不常变化的函数。示例展示了如何使用缓存注解提升效率,包括分文件缓存、按时间缓存和排除某些参数的高级用法。更多信息请参考GitHub仓库。
编程
Python
性能优化
缓存
开源
Valkey 深度实战:从 Redis 许可证风波到每秒 10 亿请求的工程化完全指南(2026)
编程
Valkey 深度实战:从 Redis 许可证风波到每秒 10 亿请求的工程化完全指南(2026)
2026-06-04 20:15:17 +0800 CST
view 645
从 Redis 许可证风波到 Valkey 9.x 每秒 10 亿请求的完整工程指南:Lock-free IO、原子 Slot 迁移、Hash 字段过期、ARM SIMD 优化、生产迁移实战
Valkey
Redis
缓存
NoSQL
数据库
别再堆中间件了!用 PostgreSQL 干掉 Redis、RabbitMQ 和 Elasticsearch——从原理到生产级「单机全栈」架构完全指南(2026)
编程
别再堆中间件了!用 PostgreSQL 干掉 Redis、RabbitMQ 和 Elasticsearch——从原理到生产级「单机全栈」架构完全指南(2026)
2026-06-04 21:46:45 +0800 CST
view 446
在中小规模场景下,PostgreSQL 一个数据库就能替代 Redis、RabbitMQ、Elasticsearch。本文从原理、实战代码、性能对比到生产落地,完整讲透这套「PG 六边形战士」架构。
PostgreSQL
缓存
消息队列
全文搜索
架构设计
Valkey 深度实战:Redis 闭源风波之后,开源内存数据库如何重生(2026 深度长文)
编程
Valkey 深度实战:Redis 闭源风波之后,开源内存数据库如何重生(2026 深度长文)
2026-07-14 02:44:06 +0800 CST
view 106
深度拆解 Valkey:从 Redis 许可证地震、Linux 基金会 Fork 始末,到 I/O 多线程架构、内存效率、Go/Python 实战、分布式锁与性能调优,一次把开源内存数据库新王讲透。
Valkey
Redis
内存数据库
缓存
Linux Foundation
BSD
Go
分布式锁
性能优化
高并发
Valkey 9.1 深度实战:当 Redis 分支进化为开源缓存新霸主——从 BSD 许可证之争到异步 I/O 线程、百万 QPS 与生产级迁移完全指南(2026)
编程
Valkey 9.1 深度实战:当 Redis 分支进化为开源缓存新霸主——从 BSD 许可证之争到异步 I/O 线程、百万 QPS 与生产级迁移完全指南(2026)
2026-06-18 20:57:03 +0800 CST
view 287
2026年5月Valkey 9.1.0发布,本文从许可证背景、架构演进、9.1新特性、代码实战、性能优化到生产迁移,全面解析这个Redis开源分支为何成为后端缓存的新选择。
Valkey
Redis
缓存
开源
BSD
Linux基金会
数据库
后端
性能优化
云原生
DwarfStar 4 深度实战:当 Redis 之父手写 AI 推理引擎——从 284B MoE 模型塞进 MacBook 到生产级本地 Agent 的完全指南(2026)
编程
DwarfStar 4 深度实战:当 Redis 之父手写 AI 推理引擎——从 284B MoE 模型塞进 MacBook 到生产级本地 Agent 的完全指南(2026)
2026-06-13 20:17:57 +0800 CST
view 440
Redis之父antirez新作DwarfStar 4深度解析:专为DeepSeek V4 Flash打造的本地推理引擎,非对称2-bit量化、磁盘KV缓存、Metal图执行、分布式推理、方向引导,MacBook上284B模型跑出26 tok/s的完全指南
ds4
DwarfStar
DeepSeek
本地推理
Metal
MoE
量化
KV缓存
编程
面试官:说一下你对Redis事务的理解?
2024-11-19 00:32:53 +0800 CST
view 1462
Redis事务提供了一种机制,将多个命令作为一个逻辑单元执行,具备类似ACID的特性。事务通过MULTI命令开始,命令被缓存,EXEC命令执行所有命令,DISCARD命令放弃事务。事务具有原子性、隔离性和持久性,但不支持回滚,且性能可能受影响。适用于批量操作、减少网络往返和并发控制等场景。
数据库
缓存
编程
技术
开发
Redis 8.0 深度实战:当内存数据库学会「AI 原生」——从 Vector Set 向量类型到生产级缓存架构的完全指南(2026)
编程
Redis 8.0 深度实战:当内存数据库学会「AI 原生」——从 Vector Set 向量类型到生产级缓存架构的完全指南(2026)
2026-06-14 03:20:06 +0800 CST
view 482
Redis 8.0 深度实战,从 Vector Set 向量类型、原生 JSON 支持、Redis Stack 整合到生产级缓存架构设计,一站式掌握 AI 时代的内存数据库。
Redis
AI
向量数据库
缓存
高可用
Go缓存实战指南:从本地缓存到分布式架构的最佳实践
编程
Go缓存实战指南:从本地缓存到分布式架构的最佳实践
2025-08-30 20:34:49 +0800 CST
view 984
本文深入探讨了Go语言中的缓存技术,从本地缓存到分布式架构,涵盖了缓存设计、实现与优化策略。通过示例代码,介绍了LRU算法、Redis客户端实现、缓存更新策略等内容,强调了合理选择缓存策略、内存管理和监控的重要性,为构建高效、稳定的缓存系统提供了最佳实践指导。
编程
技术
系统架构
性能优化
缓存
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
编程
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
2026-07-14 18:47:11 +0800 CST
view 80
深度拆解 LMCache 项目:从 Transformer Attention 机制出发,详细讲解 KV Cache 原理、三层存储架构、生产部署实战、Docker Compose 配置、CacheGen 压缩算法、PD 分离、跨实例 KV Cache 共享,以及与 vLLM/SGLang 的集成,配完整代码示例与性能调优指南。实测 DeepSeek 多轮对话 3~5 倍 TTFT 改善。
LMCache
KV Cache
LLM推理
vLLM
SGLang
推理优化
DeepSeek
分布式缓存
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
下一页