程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
vLLM 深度解析:LLM 推理性能的终极引擎——从 PagedAttention 到生产级部署的完整技术内幕
编程
vLLM 深度解析:LLM 推理性能的终极引擎——从 PagedAttention 到生产级部署的完整技术内幕
2026-05-18 08:22:35 +0800 CST
view 844
全面解析 vLLM 推理引擎的核心架构,从 PagedAttention 原理到生产级部署实战,涵盖量化推理、多GPU并行、性能调优等完整技术栈
vLLM
LLM推理
PagedAttention
GPU优化
量化推理
深度解析
Temporal Replay 2026 深度实战:当持久执行成为 AI Agent 可靠性的行业共识
编程
Temporal Replay 2026 深度实战:当持久执行成为 AI Agent 可靠性的行业共识
2026-06-18 20:25:10 +0800 CST
view 364
深度解析 Temporal Replay 2026 大会发布的 Serverless Workers、Standalone Activities、Workflow Streams 等新特性,以及与 Google ADK、OpenAI Agents SDK 的深度集成如何重新定义 AI Agent 可靠性标准。
Temporal
持久执行
AI Agent
分布式系统
工作流
Workflow
Go
Python
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
编程
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
2026-07-07 16:15:25 +0800 CST
view 155
深入解析2026年大模型推理中的KV Cache优化技术栈:从PagedAttention虚拟分页管理、Prefix Caching缓存复用、Speculative Decoding并行验证,到INT8量化与Continuous Batching生产实践,配合代码示例与性能对比,助你系统性掌握LLM推理优化的核心要领。
LLM
KV Cache
PagedAttention
Prefix Caching
vLLM
推理优化
Speculative Decoding
Pyodide 3.14 深度实战:当 PEP 783 将 Python WASM 分发带入 PyPI 时代——从 300+ 包手动维护到去中心化生态的范式跃迁(2026)
编程
Pyodide 3.14 深度实战:当 PEP 783 将 Python WASM 分发带入 PyPI 时代——从 300+ 包手动维护到去中心化生态的范式跃迁(2026)
2026-06-18 22:26:50 +0800 CST
view 631
深度解析 Pyodide 3.14.0 与 PEP 783 的里程碑意义:Python WASM 包如何从 Pyodide 团队手工托管 300+ 包,转变为通过 PyPI 实现去中心化分发。涵盖 PyEmscripten ABI 原理、cibuildwheel 构建流水线、WASM wheel 发布实战、生态现状盘点与未来展望。
Python
Pyodide
WebAssembly
WASM
PEP 783
PyPI
浏览器端 Python
前端 AI
Emscripten
ONNX Runtime
80个Agent之后,AI团队终于不用自己写Agent了
代码
80个Agent之后,AI团队终于不用自己写Agent了
2026-07-02 13:29:20 +0800 CST
view 214
Rakuten France用4人AI团队服务全公司80+Agent,关键是把Agent从项目变成生产线:Agent Builder让业务团队自己创建Agent,Shared SOP统一规范,Registry解决治理难题。
AI
Agent
组织变革
数字化转型
Rakuten
Notion
民主化
SPEC CPU 2026 深度解析:九年磨一剑,52 个基准测试如何重塑 CPU 性能评估标准
编程
SPEC CPU 2026 深度解析:九年磨一剑,52 个基准测试如何重塑 CPU 性能评估标准
2026-05-18 17:44:27 +0800 CST
view 773
2026年5月5日SPEC正式发布SPEC CPU 2026基准测试套件,九年来首次重大版本更新。52个基准测试、源码行数翻倍、内存需求64GB、全面拥抱AI工作负载。本文深度解析新特性、技术架构升级及Intel/AMD/NVIDIA实测对比。
CPU
基准测试
SPEC
Intel
AMD
Arm
编译器
LLVM
性能优化
服务器
从 43 到 52:SPEC CPU 2026 深度解析——九年磨一剑,CPU 性能评估标准全面重塑
编程
从 43 到 52:SPEC CPU 2026 深度解析——九年磨一剑,CPU 性能评估标准全面重塑
2026-05-18 17:48:07 +0800 CST
view 1283
2026年5月5日SPEC正式发布SPEC CPU 2026基准测试套件,九年来首次重大版本更新。52个基准测试、源码行数翻倍、内存需求64GB、全面拥抱AI工作负载。本文深度解析新特性、技术架构升级及Intel/AMD/NVIDIA实测对比。
CPU
基准测试
SPEC
Intel
AMD
Arm
编译器
LLVM
性能优化
服务器
万字深度解析 CubeSandbox:当 AI Agent 遇见微虚拟机革命——从 KVM 硬件隔离到亚秒级启动的完整技术指南(2026)
编程
万字深度解析 CubeSandbox:当 AI Agent 遇见微虚拟机革命——从 KVM 硬件隔离到亚秒级启动的完整技术指南(2026)
2026-07-02 17:44:52 +0800 CST
view 359
深度解析 CubeSandbox 开源 AI Agent 安全沙箱:基于 RustVMM 和 KVM 的硬件级隔离,<60ms 冷启动,CubeCoW 快照引擎,E2B 无缝兼容,凭证保险库与零信任架构,含完整代码实战。
CubeSandbox
AI Agent
沙箱
KVM
RustVMM
微服务
安全
E2B
硬件虚拟化
Copy-on-Write
MCP协议深度实战:从架构原理到RCE漏洞修复,AI工具互联的安全与工程指南
编程
MCP协议深度实战:从架构原理到RCE漏洞修复,AI工具互联的安全与工程指南
2026-04-24 03:41:51 +0800 CST
view 861
深度解析MCP协议架构原理,实战Python/TypeScript/Go三种语言开发MCP Server,深入剖析2026年4月OX Security披露的RCE漏洞技术细节,给出企业级安全加固方案
MCP
AI安全
RCE漏洞
Model Context Protocol
安全加固
Go 1.25 GreenTea GC 深度解析:当垃圾回收器学会"批量思维"——从对象级扫描到页级处理的性能革命
编程
Go 1.25 GreenTea GC 深度解析:当垃圾回收器学会"批量思维"——从对象级扫描到页级处理的性能革命
2026-04-15 20:21:19 +0800 CST
view 643
Go 1.25 带来革命性的 GreenTea 垃圾回收器,通过页级处理和 AVX-512 向量指令,将 GC 时间减少 10%-40%。本文深入剖析其设计哲学、核心算法、实现细节和性能影响。
Go
GC
GreenTea
AVX-512
性能优化
把 AI 接进真实世界:MCP 协议深度实战,从 JSON-RPC 握手、传输层到生产级 Server 全拆解
编程
把 AI 接进真实世界:MCP 协议深度实战,从 JSON-RPC 握手、传输层到生产级 Server 全拆解
2026-07-08 07:45:15 +0800 CST
view 254
从 JSON-RPC 握手、传输层到生产级 Server,深度拆解 MCP 协议:核心概念、代码实战、安全攻防与性能优化,手把手构建让 AI 接进真实世界的工具层。
MCP
Model Context Protocol
AI 工具协议
智能体
Kimi K3 架构深度解析:从第一性原理吃透 2.8 万亿参数 MoE 模型的三层核心创新
编程
Kimi K3 架构深度解析:从第一性原理吃透 2.8 万亿参数 MoE 模型的三层核心创新
2026-08-01 14:17:55 +0800 CST
view 195
深度解析 Kimi K3 的三大架构创新:KDA 混合线性注意力、Attention Residuals 注意力残差、Stable LatentMoE 分位数均衡路由,从第一性原理配代码示例吃透 2.8 万亿参数 MoE 模型。
Kimi
K3
MoE
KDA
AttnRes
StableLatentMoE
LLM
开源大模型
AI 生成界面为什么总是样板间? taste-skill 用 SKILL.md 给 AI 装上设计品味
编程
AI 生成界面为什么总是样板间? taste-skill 用 SKILL.md 给 AI 装上设计品味
2026-07-08 12:50:03 +0800 CST
view 358
taste-skill 通过将设计品味封装为可组合的 SKILL.md 技能集,解决 AI 生成界面千篇一律的核心问题。本文深入解析其三段旋钮系统、设计技能体系与工程实践。
AI编程
taste-skill
前端设计
SKILL.md
Claude Code
设计系统
AI Agent
MemPalace 深度实战:当 AI Agent 学会「永久记忆」——从三层宫殿架构到 96.6% 召回率的工程完全指南(2026)
编程
MemPalace 深度实战:当 AI Agent 学会「永久记忆」——从三层宫殿架构到 96.6% 召回率的工程完全指南(2026)
2026-06-14 20:20:25 +0800 CST
view 363
MemPalace 深度实战:全量原文存储的 AI 记忆系统,96.6% LongMemEval 召回率,零 API 依赖。从三层宫殿架构到四层记忆栈,29 个 MCP 工具完整解析,性能优化从 3 秒到 50ms。
AI Agent
Memory System
MemPalace
MCP
Claude Code
ChromaDB
Vector Search
vLLM 深度实战:当 LLM 推理遇上 PagedAttention——从 KV 缓存管理到生产级高并发服务的完全指南(2026)
编程
vLLM 深度实战:当 LLM 推理遇上 PagedAttention——从 KV 缓存管理到生产级高并发服务的完全指南(2026)
2026-06-08 22:52:24 +0800 CST
view 707
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构,以及生产环境部署的最佳实践。
vLLM
PagedAttention
LLM推理
KV缓存
分布式推理
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
编程
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
2026-06-08 22:53:03 +0800 CST
view 426
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构,以及生产环境部署的最佳实践。
vLLM
PagedAttention
LLM推理
KV缓存
分布式推理
MCP 2026-07-28 候选规范深度实战:从有状态会话到无状态基础设施——协议层无状态化、统一能力治理、长任务协作与全链路可信溯源的工程全解(2026)
编程
MCP 2026-07-28 候选规范深度实战:从有状态会话到无状态基础设施——协议层无状态化、统一能力治理、长任务协作与全链路可信溯源的工程全解(2026)
2026-07-22 06:44:51 +0800 CST
view 218
拆解 MCP 2026-07-28 候选规范四大支柱:协议层无状态化、统一能力治理、长任务协作与全链路可信溯源,配 Python SDK 实战、可跑代码与性能优化清单。
MCP
Model Context Protocol
AI智能体
无状态架构
能力治理
长任务协作
可信溯源
协议规范
Go 1.25 Green Tea GC 深度实战:从「三色标记」到「以页扫描」,一次把缓存局部性榨干的垃圾回收革命
编程
Go 1.25 Green Tea GC 深度实战:从「三色标记」到「以页扫描」,一次把缓存局部性榨干的垃圾回收革命
2026-07-27 02:15:09 +0800 CST
view 164
Go 1.25 实验性垃圾回收器 Green Tea 深度实战:以内存页(span)为单位扫描替代随机指针追逐,用空间局部性换缓存命中,GC 耗时降低 10%-40%。附源码原理、benchmark、runtime/metrics 观测及容器感知 GOMAXPROCS 落地清单。
Go
垃圾回收
GreenTea
GC
GOMAXPROCS
性能优化
云原生
Golang
2026年AI架构突破全景解析:从 Kimi Attention Residuals 到存算一体——告别参数内卷,走向效率革命
编程
2026年AI架构突破全景解析:从 Kimi Attention Residuals 到存算一体——告别参数内卷,走向效率革命
2026-05-30 09:40:11 +0800 CST
view 816
深度解析2026年AI架构五大突破:Attention Residuals、存算一体、多模态原生、自我学习、量子AI,从算法到硬件全方位革新
AI架构
Attention Residuals
存算一体
量子AI
多模态原生
告别传统工单系统:开源客服平台 Tentix 用向量知识库让 AI 真正懂业务
编程
告别传统工单系统:开源客服平台 Tentix 用向量知识库让 AI 真正懂业务
2026-04-17 10:00:51 +0800 CST
view 693
本文介绍开源客服系统 Tentix,它将历史工单、对话、文档统一沉淀到 PostgreSQL + pgvector 向量知识库中,支持 MCP 扩展,让 AI 客服越跑越懂业务,不再工单电子化。
开源
Tentix
客服系统
向量知识库
AI
pgvector
MCP
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
编程
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
2026-07-09 09:17:24 +0800 CST
view 442
深入剖析 2026 年大模型推理引擎核心技术:PagedAttention、Continuous Batching、Chunked Prefill、RadixAttention 前缀缓存、投机解码与 AWQ/GPTQ/FP8 量化,结合 vLLM 与 SGLang 部署实战,把 GPU 利用率榨到极限的生产级完全指南。
LLM推理引擎
vLLM
SGLang
推理优化
量化部署
投机解码
GPU利用率
KV Cache
PagedAttention
LLM 推理优化全景实战:从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命(2026)
编程
LLM 推理优化全景实战:从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命(2026)
2026-05-30 15:42:55 +0800 CST
view 561
深度解析 LLM 推理优化的核心技术:PagedAttention 内存管理革命、投机解码加速策略、INT4/FP8 量化技术、MoE 架构优化,从架构原理到代码实战,让大模型推理成本下降 70%。
LLM
推理优化
vLLM
PagedAttention
投机解码
量化
MoE
vLLM 深度拆解:当大模型推理学会「分页注意力」——PagedAttention、连续批处理与 V1 引擎如何重写 GPU 推理服务的心智模型
编程
vLLM 深度拆解:当大模型推理学会「分页注意力」——PagedAttention、连续批处理与 V1 引擎如何重写 GPU 推理服务的心智模型
2026-07-16 04:19:16 +0800 CST
view 221
从工程师视角深度拆解 vLLM:PagedAttention 分页注意力、连续批处理、V1 引擎架构、KV Cache 管理、量化与投机解码,配 OpenAI 兼容服务、引导解码与生产调优实战。
vLLM
PagedAttention
连续批处理
大模型推理
GPU推理服务
KV缓存
V1引擎
ego-lite 深度拆解:一个人类和 AI 并行操控的浏览器,如何重新定义 Agent 的网页自动化
编程
ego-lite 深度拆解:一个人类和 AI 并行操控的浏览器,如何重新定义 Agent 的网页自动化
2026-07-27 10:46:16 +0800 CST
view 181
深度拆解 GitHub Trending 项目 ego-lite:如何用一个 Chromium 分支解决 AI 浏览器自动化的登录态共享、人机并行与资源开销三大难题,附架构分析、代码实战与竞品对比。
AI编程
浏览器自动化
ego-lite
Chromium
Agent
Web自动化
CDP
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
62
63
64
65
66
...
111
下一页