程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
Deno 2.0 深度实战:当 Node.js 遇见现代化标准库——从权限控制到生产级 Web 开发的完全指南(2026)
编程
Deno 2.0 深度实战:当 Node.js 遇见现代化标准库——从权限控制到生产级 Web 开发的完全指南(2026)
2026-06-11 05:18:56 +0800 CST
view 727
Deno 2.0 重磅发布:从 Ryan Dahl 的「Node.js 十大遗憾」讲起,深度剖析 Deno 的安全模型、TypeScript 原生支持、Web 标准 API 兼容性、架构设计(V8 + Rust + Tokio),通过大量可运行代码示例,带你从零搭建生产级 RESTful API 服务,并对比 Deno vs Node.js vs Bun 的选型建议。
Deno
TypeScript
Web框架
安全模型
RESTful
KV数据库
Fresh框架
Deno 2.0 深度实战:Node.js之父的理想主义如何在2026年真正落地
编程
Deno 2.0 深度实战:Node.js之父的理想主义如何在2026年真正落地
2026-05-23 08:23:05 +0800 CST
view 837
Deno 2.0正式发布,带来完整的npm兼容性、package.json支持和稳定的API。本文从环境配置、安全权限系统、TypeScript原生支持、内置工具链、Deno KV嵌入式数据库、Deno Deploy边缘部署等维度,深度解析这一Node.js之父的野心之作,并与Bun、Node.js 26进行实战性能对比。
Deno
TypeScript
Node.js
Bun
后端开发
边缘计算
JavaScript运行时
KV数据库
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
编程
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
2026-05-17 04:14:18 +0800 CST
view 671
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
编程
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
2026-05-17 04:14:33 +0800 CST
view 570
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
Valkey 9.0 深度拆解:当 Redis 的「平替」反超原主——从 I/O 线程重写、大 Key 无损迁移到批处理吞吐暴涨 40% 的全链路实战
编程
Valkey 9.0 深度拆解:当 Redis 的「平替」反超原主——从 I/O 线程重写、大 Key 无损迁移到批处理吞吐暴涨 40% 的全链路实战
2026-08-18 22:43:23 +0800 CST
view 86
深度拆解 Valkey 9.0:从 Redis 许可证风暴到 Valkey 诞生,剖析 I/O 线程重写、批处理引擎、大 Key 无损迁移,配 Python/Go 可运行代码与生产调优清单。
Valkey
Redis
内存数据库
KV存储
缓存
性能优化
开源
Linux基金会
Valkey 9 深度实战:当 Redis 闭源引发分叉,Linux 基金会的 KV 引擎如何用多线程 I/O 与原子槽迁移重写内存数据库的扩展性心智模型
编程
Valkey 9 深度实战:当 Redis 闭源引发分叉,Linux 基金会的 KV 引擎如何用多线程 I/O 与原子槽迁移重写内存数据库的扩展性心智模型
2026-07-15 06:12:32 +0800 CST
view 369
从工程师视角深度拆解 Valkey 9:多线程 I/O 引擎、原子槽迁移、哈希字段过期、集群编号库、GLIDE 多语言客户端、压测调优与 Redis 迁移清单,配可运行代码。
Valkey
Valkey 9
内存数据库
Redis 分叉
KV 存储
多线程 I/O
原子槽迁移
TiDB HTAP 架构深度拆解:从 Raft 共识到列存 MPP,手写一个混合负载查询引擎
编程
TiDB HTAP 架构深度拆解:从 Raft 共识到列存 MPP,手写一个混合负载查询引擎
2026-08-02 20:14:17 +0800 CST
view 198
从第一性原理深度剖析TiDB HTAP架构:Raft Multi-Group共识协议、Percolator 2PC分布式事务、TiKV行存与TiFlash列存并存设计、MPP执行引擎、查询优化器的CBO代价模型,附完整Docker部署与性能调优方法论
TiDB
HTAP
分布式数据库
Raft
TiFlash
TiKV
列存
MPP
MySQL兼容
性能优化
当 Redis 走向闭源:手搓生产级内存数据库内核,从 RESP 协议到无锁事件循环(附 Go 完整代码)
编程
当 Redis 走向闭源:手搓生产级内存数据库内核,从 RESP 协议到无锁事件循环(附 Go 完整代码)
2026-07-10 07:46:51 +0800 CST
view 322
Redis 改双协议闭源后,Valkey 如何从 Redis 7.2.4 分叉成长为 10 亿 QPS 的开源内存数据库?本文从 RESP 协议、单线程事件循环、跳表 ZSET 到 AOF 持久化,用一份可运行的 Go 代码手搓生产级 KV 引擎内核,并拆解 Valkey 8/9 的 IO 多线程与原子槽位迁移等性能演进。
Valkey
Redis
内存数据库
RESP
Go
KV存储
高性能缓存
Valkey 深度实战:当 Redis 遇上「开源觉醒」——从许可证风暴到每秒 100 万次请求的生产级完全指南(2026)
编程
Valkey 深度实战:当 Redis 遇上「开源觉醒」——从许可证风暴到每秒 100 万次请求的生产级完全指南(2026)
2026-06-14 22:47:13 +0800 CST
view 622
2024年Redis许可证变更引发开源社区地震,Linux基金会联合腾讯、AWS等创建Valkey项目。本文深度解析Valkey 8.0的异步IO线程、数据预取、内存访问分摊等核心技术,实战演示从Redis无缝迁移到Valkey的全过程,并实测单节点突破100万QPS的性能调优完全指南。
Valkey
Redis
KV存储
高性能
许可证
开源
异步IO
数据预取
Linux基金会
百度 Unlimited OCR 深度技术解析:端到端多模态OCR模型架构与R-SWA注意力机制详解
编程
百度 Unlimited OCR 深度技术解析:端到端多模态OCR模型架构与R-SWA注意力机制详解
2026-07-05 02:43:03 +0800 CST
view 372
深入解析百度Unlimited OCR的核心技术:R-SWA注意力机制如何将KV Cache压成常数,DeepEncoder+MoE解码器架构,以及长文档OCR的完整解决方案。
OCR
百度
深度学习
Transformer
KV Cache
端到端
多模态
文档解析
百度 Unlimited OCR 深度解析:端到端架构、R-SWA 常数量化 KV Cache,以及让 AI 像人一样抄书的工程革命
编程
百度 Unlimited OCR 深度解析:端到端架构、R-SWA 常数量化 KV Cache,以及让 AI 像人一样抄书的工程革命
2026-07-05 05:41:29 +0800 CST
view 423
深度解析百度2026年开源的Unlimited OCR模型:端到端架构、R-SWA常数量化KV Cache机制、MoE解码器设计,以及让AI像人一样连续解析长文档的工程革命。含完整代码实战。
OCR
百度
端到端OCR
R-SWA
KV Cache
文档识别
多模态
TurboQuant+ 深度拆解:用 2bit KV Cache 压缩重构 LLM 推理经济学——从 Walsh-Hadamard 旋转到 llama.cpp 生产级落地
编程
TurboQuant+ 深度拆解:用 2bit KV Cache 压缩重构 LLM 推理经济学——从 Walsh-Hadamard 旋转到 llama.cpp 生产级落地
2026-07-28 11:48:24 +0800 CST
view 165
深度拆解Google ICLR 2026论文TurboQuant及其工程增强TurboQuant+:极坐标量化+QJL残差编码实现2bit KV Cache压缩,配合llama.cpp跨后端(CUDA/ROCm/Metal/Vulkan)生产级落地,附完整代码实战与选型建议
TurboQuant
KV Cache
LLM推理
llama.cpp
量化
显存优化
Walsh-Hadamard
Vulkan
CUDA
ROCm
LMCache 实战:大模型推理的 KV Cache 终极优化方案
编程
LMCache 实战:大模型推理的 KV Cache 终极优化方案
2026-07-23 08:44:51 +0800 CST
view 230
LMCache 实战指南:通过智能 KV Cache 管理,实现 LLM 推理吞吐量最高 10 倍提升,显存占用降低 40%-60%。包含 vLLM/TGI 集成、分布式缓存、性能调优最佳实践。
LMCache
KV Cache
LLM推理优化
vLLM
RAG性能优化
TurboQuant+ 深度拆解:用 2bit KV Cache 压缩重构 LLM 推理经济学——从 Walsh-Hadamard 旋转到 llama.cpp 生产级落地
编程
TurboQuant+ 深度拆解:用 2bit KV Cache 压缩重构 LLM 推理经济学——从 Walsh-Hadamard 旋转到 llama.cpp 生产级落地
2026-07-28 11:50:04 +0800 CST
view 210
深度拆解Google ICLR 2026论文TurboQuant及其工程增强TurboQuant+:极坐标量化+QJL残差编码实现2bit KV Cache压缩,配合llama.cpp跨后端(CUDA/ROCm/Metal/Vulkan)生产级落地,附完整代码实战与选型建议
TurboQuant
KV Cache
LLM推理
llama.cpp
量化
显存优化
Walsh-Hadamard
Vulkan
CUDA
ROCm
TurboQuant+深度拆解:极坐标量化+QJL残差编码——2bit KV Cache压缩重构 LLM 推理经济学
编程
TurboQuant+深度拆解:极坐标量化+QJL残差编码——2bit KV Cache压缩重构 LLM 推理经济学
2026-07-28 11:52:16 +0800 CST
view 260
深度拆解Google ICLR 2026论文TurboQuant及其工程增强TurboQuant+:极坐标量化+QJL残差编码实现2bit KV Cache压缩,配合llama.cpp跨后端(CUDA/ROCm/Metal/Vulkan)生产级落地,附完整代码实战与选型建议
TurboQuant
KV Cache
LLM推理
llama.cpp
量化
显存优化
Walsh-Hadamard
Vulkan
CUDA
ROCm
百度 Unlimited OCR 深度解析:R-SWA 把 KV Cache 压成常数,长文档 OCR 终于迎来「一次看完」时代
编程
百度 Unlimited OCR 深度解析:R-SWA 把 KV Cache 压成常数,长文档 OCR 终于迎来「一次看完」时代
2026-06-29 15:13:32 +0800 CST
view 511
百度 Unlimited OCR 用 R-SWA 机制把 KV Cache 压成常数,首次实现 40+ 页文档单次前向解析。深度解析 R-SWA 原理、模型架构、性能基准与实战部署。
百度
Unlimited OCR
OCR
R-SWA
KV Cache
长文档
端到端OCR
DeepEncoder
MoE
参考滑动窗口注意力
Headroom深度解析:AI Agent上下文压缩层的架构革命——Token成本暴降95%与可逆压缩的完整实战指南
编程
Headroom深度解析:AI Agent上下文压缩层的架构革命——Token成本暴降95%与可逆压缩的完整实战指南
2026-07-05 21:12:46 +0800 CST
view 493
深度解析Headroom上下文压缩中间层:六大压缩算法(SmartCrusher/CodeCompressor/Kompress-base/ImageCompressor/IntelligentContext/CacheAligner)、CCR可逆压缩、跨Agent记忆共享、KV Cache命中率优化。含完整代码实战、基准测试对比、竞品分析与生产部署指南。
Headroom
AI Agent
上下文压缩
Token优化
CCR
可逆压缩
Context Engineering
KV Cache
LLM
Python
LiteRT-LM:Google端侧大模型推理引擎的革命性架构——从TensorFlow Lite的困境到LLM原生推理的全链路解析
编程
LiteRT-LM:Google端侧大模型推理引擎的革命性架构——从TensorFlow Lite的困境到LLM原生推理的全链路解析
2026-04-19 22:17:39 +0800 CST
view 1182
深入解析Google LiteRT-LM端侧LLM推理引擎的核心架构:分层内存池、KV Cache量化、算子融合、WebGPU运行时。与TensorFlow Lite、llama.cpp、MLX横向对比,提供生产级部署实战指南。
Google
端侧AI
LiteRT-LM
WebGPU
量化
KV Cache
TensorFlow Lite
LLM推理
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
2026-08-04 22:46:33 +0800 CST
view 246
深度拆解Redis创始人antirez打造的DwarfStar 4本地推理引擎:专用MoE推理栈、非对称2-Bit量化、磁盘KV缓存、SSD流式加载、多机流水线并行,在128GB MacBook上跑出26 tok/s的284B模型推理
DwarfStar
Redis
antirez
DeepSeek
MoE
本地推理
LLM
推理引擎
2-Bit量化
KV缓存
Apple Metal
CUDA
开源
ds4 深度实战:当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南
编程
ds4 深度实战:当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南
2026-06-11 07:51:35 +0800 CST
view 1094
Redis之父antirez新作ds4深度解析:非对称2-bit量化、KV缓存磁盘持久化、Metal极致优化,284B模型在MacBook上跑出26 tok/s的完全指南
ds4
DeepSeek
本地推理
Metal
KV缓存
量化
antirez
Redis
llmfit 深度拆解:一条命令算清你的机器能跑哪个大模型,Rust 硬件探测与适配度评分引擎全解析
编程
llmfit 深度拆解:一条命令算清你的机器能跑哪个大模型,Rust 硬件探测与适配度评分引擎全解析
2026-07-24 07:14:55 +0800 CST
view 224
深度拆解 GitHub Trending 破万星的 llmfit:Rust 硬件探测、权重与 KV cache 显存估算公式、内存带宽速度模型、MoE offload 运行模式,附 100 行 Python 复现 mini-llmfit 与工程集成实战。
llmfit
Rust
本地大模型
Ollama
llama.cpp
量化
KV cache
MoE
硬件选型
开源
TurboQuant + RWKV-6:AI 推理效率双重突破——从内存压缩到线性架构,大模型部署范式的革命性重构
编程
TurboQuant + RWKV-6:AI 推理效率双重突破——从内存压缩到线性架构,大模型部署范式的革命性重构
2026-04-20 10:46:48 +0800 CST
view 710
深度解析 2026 年 AI 推理效率的双重突破:Google TurboQuant 实现 6 倍内存压缩与 8 倍速度提升,RWKV-6 以线性复杂度架构打破 Transformer 的二次方魔咒。从数学原理到代码实战,详解这场效率革命的本质。
TurboQuant
RWKV
AI推理
内存压缩
大模型
LCLM 深度实战:当「潜在上下文」颠覆大模型记忆困境——从 8.8 倍速提升到工业级部署的完整指南(2026)
编程
LCLM 深度实战:当「潜在上下文」颠覆大模型记忆困境——从 8.8 倍速提升到工业级部署的完整指南(2026)
2026-06-17 08:57:22 +0800 CST
view 412
深入解析2026年LCLM潜在上下文语言模型,8.8倍速度提升背后的技术原理与工业级部署实战,含完整代码示例与性能对比。
大模型
上下文压缩
KV缓存
LCLM
Transformer
AI优化
推理加速
当「潜在上下文」颠覆大模型记忆困境:LCLM 8.8 倍速提升完整拆解与工业部署指南(2026)
编程
当「潜在上下文」颠覆大模型记忆困境:LCLM 8.8 倍速提升完整拆解与工业部署指南(2026)
2026-06-17 08:57:46 +0800 CST
view 425
深入解析2026年LCLM潜在上下文语言模型,8.8倍速度提升背后的技术原理与工业级部署实战,含完整代码示例与性能对比。
大模型
上下文压缩
KV缓存
LCLM
Transformer
AI优化
推理加速
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
...
34
下一页