程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
编程
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
2026-08-03 09:43:58 +0800 CST
view 120
深度拆解vLLM V1引擎四大核心架构:PagedAttention V2融合块表与前缀树缓存、分离式推理Prefill/Decode架构、KV Connector标准化接口、LMCache三层KV Cache管理,附完整部署配置与性能基准测试
vLLM
PagedAttention
LMCache
分离式推理
大模型推理
KV Cache
推理引擎
LLM Serving
GPU优化
开源
万字深度解析 LMCache:当 KV Cache 遇见分布式存储革命——从常数级显存到千亿Token并发的完整技术指南(2026)
编程
万字深度解析 LMCache:当 KV Cache 遇见分布式存储革命——从常数级显存到千亿Token并发的完整技术指南(2026)
2026-07-02 13:46:08 +0800 CST
view 392
深度解析 LMCache 开源 KV Cache 管理层项目:从三层存储架构、多后端支持、Disaggregated Prefill、CacheBlend、Segmented Prefill、P2P 共享到 Kubernetes 生产级部署的完整技术指南,含性能基准测试与代码实战
LMCache
KV Cache
LLM
vLLM
分布式
RDMA
Kubernetes
推理优化
Redis
NIXL
Kubernetes 1.36 原生 Gang 调度深度拆解:PodGroup/Workload API 如何终结 AI 训练的「半个作业」困局
编程
Kubernetes 1.36 原生 Gang 调度深度拆解:PodGroup/Workload API 如何终结 AI 训练的「半个作业」困局
2026-08-02 02:51:55 +0800 CST
view 108
从一个 8 卡训练任务的调度死锁讲起,拆解 Kubernetes 1.36 原生 Gang 调度(PodGroup/Workload API)的设计取舍、调度框架扩展点源码实现、DRA 不支持抢占带来的优先级反转,以及生产落地的选型清单与性能调优方法。
Kubernetes
Gang Scheduling
DRA
kube-scheduler
AI训练
云原生
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
编程
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
2026-07-30 21:49:19 +0800 CST
view 121
深度拆解 LLM 推理服务的七层优化栈:PagedAttention 分页显存与写时复制、连续批处理消灭队头阻塞、前缀缓存命中率实操、Chunked Prefill 与 PD 分离决策、KV Cache 分层复用的拉取/重算临界点、投机解码加速比数学与失效场景、量化与并行选型。附大量可运行代码、压测骨架、调优顺序与七个常见误区。
LLM推理
vLLM
SGLang
PagedAttention
PD分离
KV Cache
前缀缓存
投机解码
Chunked Prefill
性能优化
croc 深度解剖:一条命令跨机器传文件——PAKE 密钥协商、Relay 中继架构与 Go 工程实现全解析
编程
croc 深度解剖:一条命令跨机器传文件——PAKE 密钥协商、Relay 中继架构与 Go 工程实现全解析
2026-07-25 15:43:43 +0800 CST
view 167
深度拆解 GitHub Trending 热门工具 croc:PAKE 密码认证密钥交换如何用弱口令协商强密钥、Relay 中继架构与多流并行传输原理,附 200 行 Go 实现 mini-croc 与自建 relay 生产实践。
croc
Go
PAKE
文件传输
端到端加密
P2P
Relay
ChaCha20
开源
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
编程
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
2026-07-07 16:15:25 +0800 CST
view 159
深入解析2026年大模型推理中的KV Cache优化技术栈:从PagedAttention虚拟分页管理、Prefix Caching缓存复用、Speculative Decoding并行验证,到INT8量化与Continuous Batching生产实践,配合代码示例与性能对比,助你系统性掌握LLM推理优化的核心要领。
LLM
KV Cache
PagedAttention
Prefix Caching
vLLM
推理优化
Speculative Decoding
语音智能体流水线深度拆解:VAD→STT→LLM→TTS 四级管线如何用开源模型复刻 OpenAI Realtime
编程
语音智能体流水线深度拆解:VAD→STT→LLM→TTS 四级管线如何用开源模型复刻 OpenAI Realtime
2026-08-01 09:43:09 +0800 CST
view 130
深度拆解 huggingface/speech-to-speech 本地语音智能体:VAD→STT→LLM→TTS 四级流水线架构、OpenAI Realtime 兼容协议、打断处理与延迟优化实战
语音智能体
speech-to-speech
VAD
STT
TTS
OpenAI Realtime
WebSocket
本地部署
AI Agent
流式处理
LMCache 实战:大模型推理的 KV Cache 终极优化方案
编程
LMCache 实战:大模型推理的 KV Cache 终极优化方案
2026-07-23 08:44:51 +0800 CST
view 175
LMCache 实战指南:通过智能 KV Cache 管理,实现 LLM 推理吞吐量最高 10 倍提升,显存占用降低 40%-60%。包含 vLLM/TGI 集成、分布式缓存、性能调优最佳实践。
LMCache
KV Cache
LLM推理优化
vLLM
RAG性能优化
Apache DataFusion 深度拆解:当 Rust 遇上向量化查询引擎——从 Arrow 内存模型、查询优化器到 Comet 加速 Spark 的工程全貌(2026)
编程
Apache DataFusion 深度拆解:当 Rust 遇上向量化查询引擎——从 Arrow 内存模型、查询优化器到 Comet 加速 Spark 的工程全貌(2026)
2026-07-18 05:44:10 +0800 CST
view 230
深度拆解 Apache DataFusion:Rust 编写的向量化 SQL 查询引擎,从 Arrow 内存模型、逻辑/物理计划、查询优化器到自定义 UDF 与数据源、Python 绑定,以及 DataFusion Comet 透明加速 Spark 的工程全貌。
Apache DataFusion
Rust
向量化执行
查询引擎
Apache Arrow
DataFusion Comet
Spark 加速
Spring AI 2.0 深度解析:Java 开发者终于有了自己的 AI Agent 基础设施
编程
Spring AI 2.0 深度解析:Java 开发者终于有了自己的 AI Agent 基础设施
2026-05-13 18:19:28 +0800 CST
view 1093
Spring AI 2.0 核心能力全面解析:统一 ChatClient API、Tool Calling 与 Java 方法打通、结构化输出自动映射、Advisors 切面机制、RAG 企业知识库、MCP 协议集成,以及与 LangChain4j 深度对比选型指南。
Spring AI,Java,AI Agent,ChatClient,Tool Calling,RAG,MCP,LangChain4j
万字深度解析 LMCache:当 LLM 推理遇见 KV Cache 革命——从 TTFT 优化到跨引擎 KV 复用、从 GPU/CPU/Disk 三级存储到分布式 P2P 共享的完整技术指南(2026)
编程
万字深度解析 LMCache:当 LLM 推理遇见 KV Cache 革命——从 TTFT 优化到跨引擎 KV 复用、从 GPU/CPU/Disk 三级存储到分布式 P2P 共享的完整技术指南(2026)
2026-07-03 03:14:31 +0800 CST
view 307
深度解析LMCache KV Cache管理层:从TTFT优化原理、GPU/CPU/Disk三级存储架构、跨引擎KV复用、分布式P2P共享,到与vLLM深度集成的生产级部署实战,含完整代码和性能调优指南。
LMCache
LLM推理
KV Cache
vLLM
TTFT优化
GPU优化
AI推理加速
分布式缓存
CSS 2026 深度解析:8 大原生特性终结 JavaScript 依赖,前端开发范式正在重写
编程
CSS 2026 深度解析:8 大原生特性终结 JavaScript 依赖,前端开发范式正在重写
2026-05-15 11:18:21 +0800 CST
view 646
2026年CSS八大原生特性深度解析:锚点定位、视图过渡、滚动驱动动画、瀑布流、Subgrid、LCH颜色、离散属性动画、文本环绕平衡
CSS
前端
Anchor Positioning
View Transitions
滚动驱动动画
Subgrid
LCH颜色
Masonry
Rust 1.96.0 深度实战:core::range 让区间终于可 Copy、assert_matches 让断言开口说话、Wasm 链接不再装瞎
编程
Rust 1.96.0 深度实战:core::range 让区间终于可 Copy、assert_matches 让断言开口说话、Wasm 链接不再装瞎
2026-07-12 13:43:57 +0800 CST
view 210
深度解析 Rust 1.96.0 三大核心特性:core::range 可 Copy 的新 Range 类型体系、assert_matches! 断言宏稳定化、Wasm 链接去掉 --allow-undefined 安全加固,附完整可运行代码与生产级迁移指南。
Rust
Rust 1.96
core::range
assert_matches
WebAssembly
Cargo
Kubernetes v1.36 深度解析:User Namespaces 四年转正、ImageVolume GA 与原生 Gang Scheduling,一次「稳中藏刀」的大版本
编程
Kubernetes v1.36 深度解析:User Namespaces 四年转正、ImageVolume GA 与原生 Gang Scheduling,一次「稳中藏刀」的大版本
2026-07-29 04:13:59 +0800 CST
view 136
Kubernetes v1.36 工程视角深度拆解:Pod User Namespaces 四年磨一剑正式 GA、ImageVolume 让 OCI 镜像变身数据分发格式、DRA 军团式毕业与原生 Gang Scheduling 落地,附破坏性变更清单与生产升级 checklist。
Kubernetes
K8s 1.36
DRA
Gang Scheduling
User Namespaces
ImageVolume
云原生
容器安全
Kubernetes v1.36 "Haru" 深度实战:当安全默认配置遇见动态资源分配——从 Pod User Namespaces GA 到生产级集群迁移的完全指南(2026)
编程
Kubernetes v1.36 "Haru" 深度实战:当安全默认配置遇见动态资源分配——从 Pod User Namespaces GA 到生产级集群迁移的完全指南(2026)
2026-06-16 20:23:25 +0800 CST
view 497
Kubernetes v1.36 Haru 深度实战指南,涵盖 71 项增强中 Pod User Namespaces GA、Mutating Admission Policies GA、DRA 动态资源分配重大增强、Gang Scheduling Alpha、Ingress NGINX 退役与 Gateway API 迁移等核心主题,附带完整代码示例和生产级升级清单。
Kubernetes
v1.36
Haru
DRA
User Namespaces
Gateway API
Gang Scheduling
云原生
chinese-poetry-api:40万首古诗词 API,Go高性能 REST+GraphQL双接口 + Docker一键部署
编程
chinese-poetry-api:40万首古诗词 API,Go高性能 REST+GraphQL双接口 + Docker一键部署
2026-07-22 07:39:47 +0800 CST
view 177
chinese-poetry-api(40万首古典诗词)Go高性能双接口:RESTful+GraphQL支持分页/筛选/自定义字段、简繁300ns切换、多维度精准检索(朝代/作者/体裁)、Docker一行命令部署(amd64/arm64)、内置IP限流+k6压测脚本(3000并发),私有化部署无第三方限制。
chinese-poetry-api
古诗词API
Go
GraphQL
RESTful
简繁转换
Docker
诗词数据库
GPL
私有化部署
后端
从规则驱动到认知驱动:browser-use 如何让 AI 真正掌控浏览器
编程
从规则驱动到认知驱动:browser-use 如何让 AI 真正掌控浏览器
2026-07-23 16:44:04 +0800 CST
view 196
深度解析 browser-use:如何让 AI 真正像人类一样控制浏览器,从架构原理到 6 大实战场景,覆盖 Browser Harness 极简框架与性能优化。
browser-use
AI Agent
Python
浏览器自动化
LangChain
Playwright
AI编程
万字深度解析 DeepSeek V4:当 1.6 万亿参数遇见 DSA 稀疏注意力——开源大模型如何让 API 账单暴降 95%(2026)
编程
万字深度解析 DeepSeek V4:当 1.6 万亿参数遇见 DSA 稀疏注意力——开源大模型如何让 API 账单暴降 95%(2026)
2026-07-01 07:13:58 +0800 CST
view 385
2026年4月DeepSeek V4发布,1.6万亿参数+百万上下文+SWE-Bench 80.6%,API成本暴降95%。深度解析DSA稀疏注意力、MoE架构、生产级部署实战。
DeepSeek V4
DSA 稀疏注意力
MoE 架构
百万上下文
开源大模型
API 成本优化
大模型部署
Agent 能力
SWE-Bench
DeepSeek
Effect 深度拆解:一个「类型驱动」的 TypeScript 运行时如何终结 try-catch 地狱——从 ZIO 灵感到 AI 时代生产级框架的全栈架构哲学
编程
Effect 深度拆解:一个「类型驱动」的 TypeScript 运行时如何终结 try-catch 地狱——从 ZIO 灵感到 AI 时代生产级框架的全栈架构哲学
2026-08-03 12:41:55 +0800 CST
view 78
深度拆解Effect-TS四大核心架构:类型驱动的错误追踪、Service Layer依赖注入、Fiber结构化并发、Schedule可组合重试策略,附完整生产级代码示例与迁移指南
Effect
TypeScript
函数式编程
依赖注入
错误处理
并发模型
Service Layer
Fiber
AI编程
ZIO
Schema
Structured Concurrency
类型安全
开源
TypeScript 7.0 RC 深度解析:微软用 Go 重写编译器,十年自举信仰一夜崩塌,10倍性能飞跃背后的血腥革命
编程
TypeScript 7.0 RC 深度解析:微软用 Go 重写编译器,十年自举信仰一夜崩塌,10倍性能飞跃背后的血腥革命
2026-06-29 15:46:09 +0800 CST
view 434
2026年6月微软发布TypeScript 7.0 RC,用Go语言重写了整个编译器,性能提升10倍。本文深度解析Go选型逻辑、并行检查架构、Breaking Changes与迁移实战。
TypeScript
TypeScript 7
Go
Golang
编译器
性能优化
前端工程化
Breaking Changes
TypeScript 7.0 深度拆解:当微软用 Go 语言重写 14 年老编译器,一次编译提速 10 倍背后的工程方法论
编程
TypeScript 7.0 深度拆解:当微软用 Go 语言重写 14 年老编译器,一次编译提速 10 倍背后的工程方法论
2026-07-15 07:43:20 +0800 CST
view 176
深度解析 TypeScript 7.0 用 Go 重写编译器的技术原理:并行类型检查、worker pool 架构、破坏性变更、升级路径与工程意义,附完整代码示例与性能调优实战
TypeScript 7.0
TypeScript Go重写
Go编译器
TypeScript性能优化
前端工具链
monorepo
typecheck
DeepSeek-Reasonix 深度解析:13K+ Stars 的 DeepSeek 原生编码 Agent 如何用 Go 重写 + Cache-First 架构让长会话成本暴跌 80%——从 prefix-cache 原理到生产级实战的完整指南
编程
DeepSeek-Reasonix 深度解析:13K+ Stars 的 DeepSeek 原生编码 Agent 如何用 Go 重写 + Cache-First 架构让长会话成本暴跌 80%——从 prefix-cache 原理到生产级实战的完整指南
2026-07-06 23:42:51 +0800 CST
view 320
深度解析GitHub 13K+ Stars的DeepSeek-Reasonix终端AI编码代理:Go从零重写、Cache-First Loop架构、99%缓存命中率、Tool-Call Repair自愈、R1 Thought Harvest思维链收割、Auto模型切换、Tauri桌面客户端、QQ频道远程控制。从prefix-cache原理到生产级实战,含完整代码示例与竞品对比。
DeepSeek
Reasonix
AI Agent
终端编程
prefix-cache
Go
缓存优化
开源
bitchat 深度拆解:无账号、无服务器、断网也能聊——蓝牙 Mesh + Nostr 双传输架构完整解析
编程
bitchat 深度拆解:无账号、无服务器、断网也能聊——蓝牙 Mesh + Nostr 双传输架构完整解析
2026-07-28 13:45:53 +0800 CST
view 144
深度拆解 GitHub Trending 榜首项目 bitchat:BLE Mesh 多跳中继 + Nostr 双传输架构、Noise XX 握手端到端加密、二进制紧凑协议与 LZ4 压缩、geohash 地理频道,附协议编解码与 geohash 实现代码及冷静的边界分析。
bitchat
BLE Mesh
Nostr
Noise协议
P2P
去中心化
端到端加密
geohash
开源
Swift
bitchat 深度拆解:没有互联网的聊天应用如何日增 2300 星——BLE Mesh 泛洪、Noise 加密与离线优先通信栈全解
编程
bitchat 深度拆解:没有互联网的聊天应用如何日增 2300 星——BLE Mesh 泛洪、Noise 加密与离线优先通信栈全解
2026-07-31 07:14:36 +0800 CST
view 158
深度拆解 GitHub Trending 霸榜项目 bitchat:BLE 双角色连接拓扑、紧凑二进制协议与分片重组、TTL 管理泛洪、Noise XX 端到端加密、store-and-forward 暂存机制,附完整 Swift 代码实战、电量与吞吐优化、能力边界冷思考。
bitchat
BLE
蓝牙Mesh
去中心化
Noise协议
端到端加密
离线通信
开源
iOS
P2P
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
16
17
18
19
20
...
91
下一页