程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
万字深度解析 LMCache:当 KV Cache 遇见分布式存储革命——从常数级显存到千亿Token并发的完整技术指南(2026)
编程
万字深度解析 LMCache:当 KV Cache 遇见分布式存储革命——从常数级显存到千亿Token并发的完整技术指南(2026)
2026-07-02 13:46:08 +0800 CST
view 433
深度解析 LMCache 开源 KV Cache 管理层项目:从三层存储架构、多后端支持、Disaggregated Prefill、CacheBlend、Segmented Prefill、P2P 共享到 Kubernetes 生产级部署的完整技术指南,含性能基准测试与代码实战
LMCache
KV Cache
LLM
vLLM
分布式
RDMA
Kubernetes
推理优化
Redis
NIXL
Kubernetes Workload API 深度拆解:当调度器终于承认「Pod 不是孤岛」——从四次外部造轮子到 kube-scheduler 原生 PodGroup 的一次调度内核手术
编程
Kubernetes Workload API 深度拆解:当调度器终于承认「Pod 不是孤岛」——从四次外部造轮子到 kube-scheduler 原生 PodGroup 的一次调度内核手术
2026-08-10 07:21:30 +0800 CST
view 76
深度拆解 KEP-4671 Workload/PodGroup API:gang scheduling 为何被外部造了四次轮子、Workload 与 PodGroup 从嵌套到解耦的自我否定、schedulingGroup 为何不可变、Workload Scheduling Cycle 如何改写 scheduleOne 主循环、PlacementFeasible 三态语义、DisruptionMode 与从节点泛化到域的抢占算法。含 YAML/Go 控制器/排查脚本/告警规则与十条踩坑。
Kubernetes
Gang Scheduling
Workload API
PodGroup
kube-scheduler
云原生
AI训练
DRA
抢占
调度器
Kubernetes 1.36 原生 Gang 调度深度拆解:PodGroup/Workload API 如何终结 AI 训练的「半个作业」困局
编程
Kubernetes 1.36 原生 Gang 调度深度拆解:PodGroup/Workload API 如何终结 AI 训练的「半个作业」困局
2026-08-02 02:51:55 +0800 CST
view 142
从一个 8 卡训练任务的调度死锁讲起,拆解 Kubernetes 1.36 原生 Gang 调度(PodGroup/Workload API)的设计取舍、调度框架扩展点源码实现、DRA 不支持抢占带来的优先级反转,以及生产落地的选型清单与性能调优方法。
Kubernetes
Gang Scheduling
DRA
kube-scheduler
AI训练
云原生
CSS 2026 新特性深度解析:从锚点定位到瀑布流布局,前端开发迎来纯 CSS 解决方案时代
编程
CSS 2026 新特性深度解析:从锚点定位到瀑布流布局,前端开发迎来纯 CSS 解决方案时代
2026-04-21 10:51:18 +0800 CST
view 874
深度解析 CSS 2026 核心新特性:锚点定位彻底替代 Popper.js、原生瀑布流布局告别 JavaScript 库、滚动驱动动画实现零 JS 滚动效果。包含完整代码示例、性能对比和浏览器兼容性方案。
CSS
前端
Web开发
Anchor Positioning
Masonry
Scroll Animation
Helios深度解析:北大袁粒团队如何用14B参数重塑实时视频生成——从架构革命到工程落地的全解
编程
Helios深度解析:北大袁粒团队如何用14B参数重塑实时视频生成——从架构革命到工程落地的全解
2026-04-13 05:23:52 +0800 CST
view 946
深入解析北京大学袁粒团队发布的Helios 14B实时长视频生成模型,涵盖三阶段训练流程、统一历史注入、金字塔预测校正器、对抗层次蒸馏等核心技术创新,以及完整部署实战指南
视频生成
Helios
扩散模型
深度学习
实时推理
PyTorch
HuggingFace
paniclock深度解析:macOS一键禁用Touch ID的隐私防护利器
编程
paniclock深度解析:macOS一键禁用Touch ID的隐私防护利器
2026-04-27 20:07:25 +0800 CST
view 699
paniclock是一款开源macOS菜单栏工具,一键禁用Touch ID、锁定屏幕,强制密码解锁,保护隐私安全。支持合盖自动锁定、自定义快捷键。
macOS
隐私安全
开源工具
Touch ID
LMCache 实战:大模型推理的 KV Cache 终极优化方案
编程
LMCache 实战:大模型推理的 KV Cache 终极优化方案
2026-07-23 08:44:51 +0800 CST
view 197
LMCache 实战指南:通过智能 KV Cache 管理,实现 LLM 推理吞吐量最高 10 倍提升,显存占用降低 40%-60%。包含 vLLM/TGI 集成、分布式缓存、性能调优最佳实践。
LMCache
KV Cache
LLM推理优化
vLLM
RAG性能优化
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
编程
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
2026-07-30 21:49:19 +0800 CST
view 147
深度拆解 LLM 推理服务的七层优化栈:PagedAttention 分页显存与写时复制、连续批处理消灭队头阻塞、前缀缓存命中率实操、Chunked Prefill 与 PD 分离决策、KV Cache 分层复用的拉取/重算临界点、投机解码加速比数学与失效场景、量化与并行选型。附大量可运行代码、压测骨架、调优顺序与七个常见误区。
LLM推理
vLLM
SGLang
PagedAttention
PD分离
KV Cache
前缀缓存
投机解码
Chunked Prefill
性能优化
croc 深度解剖:一条命令跨机器传文件——PAKE 密钥协商、Relay 中继架构与 Go 工程实现全解析
编程
croc 深度解剖:一条命令跨机器传文件——PAKE 密钥协商、Relay 中继架构与 Go 工程实现全解析
2026-07-25 15:43:43 +0800 CST
view 181
深度拆解 GitHub Trending 热门工具 croc:PAKE 密码认证密钥交换如何用弱口令协商强密钥、Relay 中继架构与多流并行传输原理,附 200 行 Go 实现 mini-croc 与自建 relay 生产实践。
croc
Go
PAKE
文件传输
端到端加密
P2P
Relay
ChaCha20
开源
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
编程
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
2026-07-07 16:15:25 +0800 CST
view 178
深入解析2026年大模型推理中的KV Cache优化技术栈:从PagedAttention虚拟分页管理、Prefix Caching缓存复用、Speculative Decoding并行验证,到INT8量化与Continuous Batching生产实践,配合代码示例与性能对比,助你系统性掌握LLM推理优化的核心要领。
LLM
KV Cache
PagedAttention
Prefix Caching
vLLM
推理优化
Speculative Decoding
AutoResearch 深度解析:当 Karpathy 让 AI 在单 GPU 上学会“自己做研究”——从 nanochat 训练到科研范式的原子革命
编程
AutoResearch 深度解析:当 Karpathy 让 AI 在单 GPU 上学会“自己做研究”——从 nanochat 训练到科研范式的原子革命
2026-04-14 15:26:51 +0800 CST
view 1021
630行Python代码,62K Stars,Karpathy新作AutoResearch如何让AI在单GPU上自主完成机器学习研究?深度解析其六阶段研究循环、异步调度架构和代码生成引擎。
AI
机器学习
AutoML
Karpathy
PyTorch
nanochat
Spring AI 2.0 深度解析:Java 开发者终于有了自己的 AI Agent 基础设施
编程
Spring AI 2.0 深度解析:Java 开发者终于有了自己的 AI Agent 基础设施
2026-05-13 18:19:28 +0800 CST
view 1132
Spring AI 2.0 核心能力全面解析:统一 ChatClient API、Tool Calling 与 Java 方法打通、结构化输出自动映射、Advisors 切面机制、RAG 企业知识库、MCP 协议集成,以及与 LangChain4j 深度对比选型指南。
Spring AI,Java,AI Agent,ChatClient,Tool Calling,RAG,MCP,LangChain4j
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
编程
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
2026-07-14 18:47:11 +0800 CST
view 200
深度拆解 LMCache 项目:从 Transformer Attention 机制出发,详细讲解 KV Cache 原理、三层存储架构、生产部署实战、Docker Compose 配置、CacheGen 压缩算法、PD 分离、跨实例 KV Cache 共享,以及与 vLLM/SGLang 的集成,配完整代码示例与性能调优指南。实测 DeepSeek 多轮对话 3~5 倍 TTFT 改善。
LMCache
KV Cache
LLM推理
vLLM
SGLang
推理优化
DeepSeek
分布式缓存
万字深度解析 LMCache:当 LLM 推理遇见 KV Cache 革命——从 TTFT 优化到跨引擎 KV 复用、从 GPU/CPU/Disk 三级存储到分布式 P2P 共享的完整技术指南(2026)
编程
万字深度解析 LMCache:当 LLM 推理遇见 KV Cache 革命——从 TTFT 优化到跨引擎 KV 复用、从 GPU/CPU/Disk 三级存储到分布式 P2P 共享的完整技术指南(2026)
2026-07-03 03:14:31 +0800 CST
view 358
深度解析LMCache KV Cache管理层:从TTFT优化原理、GPU/CPU/Disk三级存储架构、跨引擎KV复用、分布式P2P共享,到与vLLM深度集成的生产级部署实战,含完整代码和性能调优指南。
LMCache
LLM推理
KV Cache
vLLM
TTFT优化
GPU优化
AI推理加速
分布式缓存
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
编程
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
2026-08-03 09:43:58 +0800 CST
view 169
深度拆解vLLM V1引擎四大核心架构:PagedAttention V2融合块表与前缀树缓存、分离式推理Prefill/Decode架构、KV Connector标准化接口、LMCache三层KV Cache管理,附完整部署配置与性能基准测试
vLLM
PagedAttention
LMCache
分离式推理
大模型推理
KV Cache
推理引擎
LLM Serving
GPU优化
开源
Gemma MacOS Tuner 深度解析:在 Apple Silicon 上用 PyTorch 和 MPS 高效微调多模态 Gemma
编程
Gemma MacOS Tuner 深度解析:在 Apple Silicon 上用 PyTorch 和 MPS 高效微调多模态 Gemma
2026-04-09 01:14:39 +0800 CST
view 1334
详解 gemma-tuner-multimodal 项目:在 Apple Silicon 上通过 PyTorch MPS 后端对 Google Gemma 系列模型进行 LoRA 微调,支持文本、图像、音频三种模态,完全本地运行,数据不出机器,零 NVIDIA GPU 依赖。
Gemma
Apple Silicon
PyTorch
MPS
LoRA
微调
Machine Learning
Kubernetes v1.36 深度解析:User Namespaces 四年转正、ImageVolume GA 与原生 Gang Scheduling,一次「稳中藏刀」的大版本
编程
Kubernetes v1.36 深度解析:User Namespaces 四年转正、ImageVolume GA 与原生 Gang Scheduling,一次「稳中藏刀」的大版本
2026-07-29 04:13:59 +0800 CST
view 162
Kubernetes v1.36 工程视角深度拆解:Pod User Namespaces 四年磨一剑正式 GA、ImageVolume 让 OCI 镜像变身数据分发格式、DRA 军团式毕业与原生 Gang Scheduling 落地,附破坏性变更清单与生产升级 checklist。
Kubernetes
K8s 1.36
DRA
Gang Scheduling
User Namespaces
ImageVolume
云原生
容器安全
Hermes Agent v0.19.0 水银版深度解剖:80%速度提升背后的自进化架构革命
编程
Hermes Agent v0.19.0 水银版深度解剖:80%速度提升背后的自进化架构革命
2026-07-24 12:44:31 +0800 CST
view 269
深度解剖 Hermes Agent v0.19.0 水银版:80%速度提升、14倍TUI渲染提速、11项重磅新功能,以及支撑这一切的自进化闭环架构三层记忆系统完整解析
Hermes Agent
Hermes v0.19.0
Nous Research
AI Agent
自进化
Skill系统
开源
Quicksilver
MemPalace 深度实战:当《生化危机》女主给 Claude Code 装上「记忆宫殿」——本地优先 AI 记忆系统的 96.6% 召回率之谜(2026完全指南)
编程
MemPalace 深度实战:当《生化危机》女主给 Claude Code 装上「记忆宫殿」——本地优先 AI 记忆系统的 96.6% 召回率之谜(2026完全指南)
2026-06-26 04:44:59 +0800 CST
view 460
深度解析MemPalace——由《生化危机》女主Milla Jovovich联合开发的本地优先AI记忆系统。96.6% LongMemEval R@5高分,原始逐字存储,记忆宫殿架构,四层记忆栈,零API调用。
MemPalace
AI记忆系统
Claude Code
ChromaDB
LongMemEval
MCP协议
本地优先
向量数据库
hermes-agent 深度拆解:当 AI Agent 决定记住你是谁——一个 130K Star 的开源框架如何用 Personal Memory 和闭环学习重新定义自进化 Agent 的终极形态
编程
hermes-agent 深度拆解:当 AI Agent 决定记住你是谁——一个 130K Star 的开源框架如何用 Personal Memory 和闭环学习重新定义自进化 Agent 的终极形态
2026-08-04 21:45:58 +0800 CST
view 113
深度拆解130K Star开源AI Agent框架hermes-agent:Personal Memory三层记忆架构、闭环自学习机制、FTS5全文检索、可插拔上下文压缩、17+平台网关、子Agent委托机制,附完整架构分析与代码示例
hermes-agent
NousResearch
AI Agent
Personal Memory
闭环学习
自进化Agent
开源
Python
SQLite
FTS5
记忆系统
Agent框架
Hermes Agent 自进化架构深度解析:五个阶段闭环学习系统如何让 AI Agent 真正「越用越聪明」
编程
Hermes Agent 自进化架构深度解析:五个阶段闭环学习系统如何让 AI Agent 真正「越用越聪明」
2026-07-24 02:15:32 +0800 CST
view 221
深度解析 Hermes Agent 的五大阶段闭环学习系统:Execute-Trigger-Review-Persist-Evolve。涵盖三层记忆架构、GRPO 强化学习内化、Tool Search 上下文优化,以及与 OpenClaw 的工程路线对比。
Hermes Agent
Nous Research
AI Agent
自进化
闭环学习系统
Skill
Memory
GRPO
OpenClaw
MCP
Hermes Agent 深度解析:自进化智能体的工程架构与 Skill 生成机制
编程
Hermes Agent 深度解析:自进化智能体的工程架构与 Skill 生成机制
2026-04-12 05:23:08 +0800 CST
view 1547
深入解析 Hermes Agent 的自进化智能体架构:从 Skill 自动生成引擎、三层记忆系统、Tool Router 到 Platform Bridge,源码级别剖析 + 代码示例,对比 OpenClaw
AI Agent
Hermes Agent
Nous Research
自进化
智能体
Skill生成
Memory Hub
Tool Router
TimesFM 深度实战:当 Google Research 把基础模型带进时间序列——从预训练解码器到零样本推理、从多周期建模到生产级预测完全指南(2026)
编程
TimesFM 深度实战:当 Google Research 把基础模型带进时间序列——从预训练解码器到零样本推理、从多周期建模到生产级预测完全指南(2026)
2026-06-21 03:24:16 +0800 CST
view 561
TimesFM 2.5深度解析:Google Research开源的时间序列基础模型,200M参数、16K上下文、零样本推理。从Patch机制、RevIN归一化到LoRA微调、生产部署,10000字完整技术指南。
TimesFM
时间序列预测
Google Research
基础模型
零样本推理
Transformer
概率预测
Kubernetes v1.36 "Haru" 深度实战:当安全默认配置遇见动态资源分配——从 Pod User Namespaces GA 到生产级集群迁移的完全指南(2026)
编程
Kubernetes v1.36 "Haru" 深度实战:当安全默认配置遇见动态资源分配——从 Pod User Namespaces GA 到生产级集群迁移的完全指南(2026)
2026-06-16 20:23:25 +0800 CST
view 531
Kubernetes v1.36 Haru 深度实战指南,涵盖 71 项增强中 Pod User Namespaces GA、Mutating Admission Policies GA、DRA 动态资源分配重大增强、Gang Scheduling Alpha、Ingress NGINX 退役与 Gateway API 迁移等核心主题,附带完整代码示例和生产级升级清单。
Kubernetes
v1.36
Haru
DRA
User Namespaces
Gateway API
Gang Scheduling
云原生
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
8
9
10
11
12
...
77
下一页