程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
编程
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
2026-06-08 22:53:03 +0800 CST
view 434
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构,以及生产环境部署的最佳实践。
vLLM
PagedAttention
LLM推理
KV缓存
分布式推理
DataBuff 深度拆解:当 APM 学会「多智能体协作」——用 OpenTelemetry + AI 原生架构重写可观测性的心智模型
编程
DataBuff 深度拆解:当 APM 学会「多智能体协作」——用 OpenTelemetry + AI 原生架构重写可观测性的心智模型
2026-07-15 15:15:44 +0800 CST
view 287
深度拆解 DataBuff:AI 原生 OpenTelemetry APM 的多智能体根因分析架构、极简三组件设计、MCP 双向开放能力,配完整 Docker/K8s 部署实战与代码示例。
DataBuff
OpenTelemetry
APM
AI-native
多智能体
可观测性
MCP
Doris
Kimi K2 系列深度实战:月之暗面开源编码大模型架构解析与生产级部署完全指南
编程
Kimi K2 系列深度实战:月之暗面开源编码大模型架构解析与生产级部署完全指南
2026-06-28 03:15:43 +0800 CST
view 582
深度解析月之暗面Kimi K2系列(K2.5/K2.6/K2.7 Code)的MoE架构、多模态能力、Token优化策略,附Ollama本地部署、OpenRouter API集成、OpenCode实战及Agent工作流完整代码。
Kimi K2
月之暗面
MoE架构
编码大模型
AI编程
Token优化
本地部署
OpenRouter
多模态
Agent工作流
告别传统工单系统:开源客服平台 Tentix 用向量知识库让 AI 真正懂业务
编程
告别传统工单系统:开源客服平台 Tentix 用向量知识库让 AI 真正懂业务
2026-04-17 10:00:51 +0800 CST
view 700
本文介绍开源客服系统 Tentix,它将历史工单、对话、文档统一沉淀到 PostgreSQL + pgvector 向量知识库中,支持 MCP 扩展,让 AI 客服越跑越懂业务,不再工单电子化。
开源
Tentix
客服系统
向量知识库
AI
pgvector
MCP
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
编程
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
2026-07-09 09:17:24 +0800 CST
view 450
深入剖析 2026 年大模型推理引擎核心技术:PagedAttention、Continuous Batching、Chunked Prefill、RadixAttention 前缀缓存、投机解码与 AWQ/GPTQ/FP8 量化,结合 vLLM 与 SGLang 部署实战,把 GPU 利用率榨到极限的生产级完全指南。
LLM推理引擎
vLLM
SGLang
推理优化
量化部署
投机解码
GPU利用率
KV Cache
PagedAttention
OpenRouter Fusion 深度实战:当「群殴战术」打破 AI 智商天花板——从多模型并行分发到裁判聚合引擎的全栈架构解析
编程
OpenRouter Fusion 深度实战:当「群殴战术」打破 AI 智商天花板——从多模型并行分发到裁判聚合引擎的全栈架构解析
2026-06-20 14:56:09 +0800 CST
view 486
深度解析 OpenRouter Fusion 的多模型并行分发与裁判聚合引擎架构,从原理、代码实战、性能基准到生产落地,全面拆解"群殴战术"如何打破 AI 智商天花板。
AI
OpenRouter
Fusion
多模型
MCP
Agent
大模型
架构设计
LLM 推理优化全景实战:从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命(2026)
编程
LLM 推理优化全景实战:从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命(2026)
2026-05-30 15:42:55 +0800 CST
view 569
深度解析 LLM 推理优化的核心技术:PagedAttention 内存管理革命、投机解码加速策略、INT4/FP8 量化技术、MoE 架构优化,从架构原理到代码实战,让大模型推理成本下降 70%。
LLM
推理优化
vLLM
PagedAttention
投机解码
量化
MoE
vLLM 深度拆解:当大模型推理学会「分页注意力」——PagedAttention、连续批处理与 V1 引擎如何重写 GPU 推理服务的心智模型
编程
vLLM 深度拆解:当大模型推理学会「分页注意力」——PagedAttention、连续批处理与 V1 引擎如何重写 GPU 推理服务的心智模型
2026-07-16 04:19:16 +0800 CST
view 228
从工程师视角深度拆解 vLLM:PagedAttention 分页注意力、连续批处理、V1 引擎架构、KV Cache 管理、量化与投机解码,配 OpenAI 兼容服务、引导解码与生产调优实战。
vLLM
PagedAttention
连续批处理
大模型推理
GPU推理服务
KV缓存
V1引擎
Warp Terminal 开源深度解析:Rust + GPU 加速的 AI Agent 终端架构全览
编程
Warp Terminal 开源深度解析:Rust + GPU 加速的 AI Agent 终端架构全览
2026-05-08 17:08:45 +0800 CST
view 933
深度解析Warp Terminal开源事件,从Block输出模型、GPU加速渲染、AI Agent原生集成三个维度拆解其60+ crates、近2000个Rust源文件的架构全貌,探讨Agent Terminal的未来趋势。
Rust
GPU
AI Agent
Warp
Terminal
WebGPU
Agent Terminal 时代来临:Warp 开源背后的 Rust + GPU 加速架构密码
编程
Agent Terminal 时代来临:Warp 开源背后的 Rust + GPU 加速架构密码
2026-05-08 17:09:32 +0800 CST
view 673
深度解析Warp Terminal开源事件,从Block输出模型、GPU加速渲染、AI Agent原生集成三个维度拆解其60+ crates、近2000个Rust源文件的架构全貌,探讨Agent Terminal的未来趋势。
Rust
GPU
AI Agent
Warp
Terminal
WebGPU
从60+ crates到WarpUI自研框架:拆解开源Warp的GPU渲染与Agent架构设计
编程
从60+ crates到WarpUI自研框架:拆解开源Warp的GPU渲染与Agent架构设计
2026-05-08 17:10:32 +0800 CST
view 599
深度解析Warp Terminal开源事件,从Block输出模型、GPU加速渲染、AI Agent原生集成三个维度拆解其60+ crates、近2000个Rust源文件的架构全貌,探讨Agent Terminal的未来趋势。
Rust
GPU
AI Agent
Warp
Terminal
WebGPU
GPU渲染+AI Agent:开源Warp的终端革命与60+ crates架构全解析
编程
GPU渲染+AI Agent:开源Warp的终端革命与60+ crates架构全解析
2026-05-08 17:11:00 +0800 CST
view 455
深度解析Warp Terminal开源事件,从Block输出模型、GPU加速渲染、AI Agent原生集成三个维度拆解其60+ crates、近2000个Rust源文件的架构全貌,探讨Agent Terminal的未来趋势。
Rust
GPU
AI Agent
Warp
Terminal
WebGPU
TEN Framework 深度解析:当实时多模态语音 AI 遇上真正的"即插即用"
编程
TEN Framework 深度解析:当实时多模态语音 AI 遇上真正的"即插即用"
2026-04-08 19:04:47 +0800 CST
view 702
TEN Framework 是一个开源的实时多模态对话 AI 框架,让开发者能够像搭积木一样快速构建低延迟、高质量的实时语音/视频 AI Agent。本文深度解析其核心架构、实战应用与性能优化策略。
TEN Framework
语音AI
实时多模态
WebRTC
AI Agent
TensorRT-LLM 深度实战:从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命
编程
TensorRT-LLM 深度实战:从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命
2026-05-22 06:19:51 +0800 CST
view 742
深入解析TensorRT-LLM推理框架,从Paged KV Cache、连续批处理到INT4/INT8/FP8量化实战,覆盖Blackwell架构适配、Triton部署与K8s生产方案
TensorRT-LLM
LLM推理
量化
INT4
Blackwell
GPU优化
WWDC 2026 深度前瞻:从「雪豹式」iOS 27 到 AI 原生 Swift——苹果开发者生态的范式迁移
编程
WWDC 2026 深度前瞻:从「雪豹式」iOS 27 到 AI 原生 Swift——苹果开发者生态的范式迁移
2026-05-22 07:49:46 +0800 CST
view 584
WWDC 2026 前瞻深度解析:iOS 27雪豹式更新、Siri Agent化、Apple Intelligence系统级渗透、Swift 6.2并发模型革新
WWDC
iOS 27
Swift
Apple Intelligence
Siri
HeyGen 开源 HyperFrames:用 HTML 写视频,AI Agent 时代的视频渲染框架
编程
HeyGen 开源 HyperFrames:用 HTML 写视频,AI Agent 时代的视频渲染框架
2026-04-18 11:05:36 +0800 CST
view 2349
HeyGen 开源 HyperFrames 框架,用 HTML + data-* 属性定义视频时间轴,Puppeteer + FFmpeg 渲染为 MP4。原生集成 AI Agent Skills,支持 Claude Code、Cursor 等工具直接用自然语言生成视频。
AI
视频
HeyGen
开源
HTML
Puppeteer
Agent
vLLM 0.5 深度解析:PagedAttention 架构原理与生产级 LLM 推理优化实战
编程
vLLM 0.5 深度解析:PagedAttention 架构原理与生产级 LLM 推理优化实战
2026-07-04 18:15:46 +0800 CST
view 382
深度解析 vLLM 0.5 的 PagedAttention 架构原理,涵盖 KV Cache 分页管理、MoE 优化、分布式推理、量化技术,并通过代码实战和性能对比,帮助开发者掌握生产级 LLM 推理最佳实践。
vLLM
PagedAttention
LLM推理
CUDA
KV Cache
深度学习
AI基础设施
Python
生产部署
性能优化
Agent Lightning 深度解析:微软如何用零代码改造让 AI Agent 实现自我进化
编程
Agent Lightning 深度解析:微软如何用零代码改造让 AI Agent 实现自我进化
2026-04-18 15:12:54 +0800 CST
view 752
深入剖析微软开源项目 Agent Lightning 的技术架构,详解零代码接入、多框架兼容、强化学习训练等核心特性
AI Agent
强化学习
LangChain
AutoGen
微软
开源
字节跳动 DeerFlow 2.0 深度解析:46k Star 的超级智能体框架,让 AI 真正「动手做事」
编程
字节跳动 DeerFlow 2.0 深度解析:46k Star 的超级智能体框架,让 AI 真正「动手做事」
2026-04-28 13:55:13 +0800 CST
view 647
深度解析字节跳动开源的 DeerFlow 2.0 超级智能体框架,46k Star 的核心技术架构、LangGraph 状态机原理、代码实战与性能优化指南。
AI Agent
LangGraph
DeerFlow
字节跳动
多智能体
深度学习
Agent Lightning 深度解析:零代码如何让任何框架的 AI Agent 实现自我进化
编程
Agent Lightning 深度解析:零代码如何让任何框架的 AI Agent 实现自我进化
2026-04-18 15:13:12 +0800 CST
view 684
深入剖析微软开源项目 Agent Lightning 的技术架构,详解零代码接入、多框架兼容、强化学习训练等核心特性
AI Agent
强化学习
LangChain
AutoGen
微软
开源
x402 协议深度解析:Linux 基金会如何用 HTTP 原生支付重塑 AI Agent 经济基础设施
编程
x402 协议深度解析:Linux 基金会如何用 HTTP 原生支付重塑 AI Agent 经济基础设施
2026-05-09 07:08:39 +0800 CST
view 867
Linux基金会x402协议深度解析:HTTP 402原生支付如何为AI Agent提供自动化微支付基础设施,含架构分析、代码实战、安全设计与生态全景
x402
HTTP
AI Agent
支付协议
Linux Foundation
SkillSpector 深度实战:当 NVIDIA 遇见 AI Agent 技能安全——从零到生产级 AI 智能体安全扫描完全指南(2026)
编程
SkillSpector 深度实战:当 NVIDIA 遇见 AI Agent 技能安全——从零到生产级 AI 智能体安全扫描完全指南(2026)
2026-06-16 03:20:51 +0800 CST
view 743
NVIDIA 开源 AI Agent 技能安全扫描工具 SkillSpector 深度实战,覆盖安装、架构、代码实战、性能优化全流程
AI Agent 安全
NVIDIA
技能扫描
Python 安全
GitHub 22k Star 的 Beads:如何用 Dolt 给 AI Agent 装上一个永久记忆大脑
编程
GitHub 22k Star 的 Beads:如何用 Dolt 给 AI Agent 装上一个永久记忆大脑
2026-04-28 14:54:44 +0800 CST
view 737
深度解析 GitHub 22.3k Star 的 Beads 项目:用 Dolt 版本控制数据库为 AI coding agent 构建持久化记忆系统,覆盖架构设计、Dolt 分支模型、代码实战与生产部署指南。
AI编程
Dolt
Agent
GitHub开源
版本控制
SQL数据库
编程工具
长任务追踪
MemPalace 深度实战:当 AI Agent 遇见「记忆宫殿」——从本地优先架构到 96.6% 召回率的生产级完全指南(2026)
编程
MemPalace 深度实战:当 AI Agent 遇见「记忆宫殿」——从本地优先架构到 96.6% 召回率的生产级完全指南(2026)
2026-06-16 03:46:31 +0800 CST
view 425
MemPalace 深度实战:本地优先的 AI 记忆系统,96.6% R@5 召回率,33 个 MCP 工具,零 API Key,完全开源
AI Agent
记忆系统
MemPalace
本地优先
RAG
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
61
62
63
64
65
...
138
下一页