程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
编程
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
2026-06-30 11:16:18 +0800 CST
view 16
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
编程
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
2026-06-30 11:17:15 +0800 CST
view 14
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
WWDC 2026 开发者深度实战:当苹果生态迎来三重地震——Swift 6 严格并发、macOS 27 告别 Intel、Siri AI 开发框架与折叠屏适配的生产级完全指南
编程
WWDC 2026 开发者深度实战:当苹果生态迎来三重地震——Swift 6 严格并发、macOS 27 告别 Intel、Siri AI 开发框架与折叠屏适配的生产级完全指南
2026-06-18 10:27:33 +0800 CST
view 148
WWDC 2026开发者实战指南:Swift 6严格并发迁移、macOS 27告别Intel、Siri AI四套开发框架、折叠屏iPhone Ultra适配、Liquid Glass设计体系的生产级完全指南
Swift 6
WWDC 2026
macOS 27
iOS 27
Swift concurrency
Apple Intelligence
Siri AI
Core AI
App Intents
Foundation Models
折叠屏
iPhone Ultra
Liquid Glass
Apple Silicon
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
编程
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
2026-06-27 12:44:29 +0800 CST
view 56
2026年LLM推理引擎深度实战:从PagedAttention、连续批处理、量化技术到生产级K8s部署,万字长文覆盖vLLM、SGLang、TensorRT-LLM、TGI四大框架架构原理与实测对比
LLM推理
vLLM
PagedAttention
SGLang
推理优化
TensorRT-LLM
生产部署
KV Cache
量化
LLM 推理的显存战争:从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析(2026)
编程
LLM 推理的显存战争:从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析(2026)
2026-06-15 11:18:23 +0800 CST
view 195
深度解析大模型推理中 KV Cache 管理的五世代演进:从连续分配到 PagedAttention,再到异构缓存、分布式 KV 和统一混合内存架构。结合 vLLM、SGLang、TensorRT-LLM 给出生产环境选型指南。
LLM
大模型
KVCache
PagedAttention
vLLM
SGLang
TensorRT
推理优化
显存管理
分布式
GPT-5.6 系列深度解析:Sol、Terra、Luna 三体架构与 Ultra 模式——大模型推理范式的转折点
编程
GPT-5.6 系列深度解析:Sol、Terra、Luna 三体架构与 Ultra 模式——大模型推理范式的转折点
2026-06-30 14:48:42 +0800 CST
view 11
2026年6月OpenAI发布GPT-5.6系列Sol/Terra/Luna三体模型深度解析:Ultra模式多智能体内化架构、150万token上下文、Prompt Caching成本优化、与Claude Mythos/Gemini横向对比,万字长文从后端开发视角拆解大模型推理范式的转折点
GPT-5.6
OpenAI
Sol
Terra
Luna
Ultra模式
大模型
多智能体
AI架构
PromptCaching
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
编程
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
2026-06-02 09:36:52 +0800 CST
view 349
从vLLM到TensorRT-LLM,一次讲透vLLM、SGLang、TensorRT-LLM、llama.cpp四大LLM推理框架的架构哲学、核心原理、生产级部署实战与选型决策树。
LLM
vLLM
TensorRT-LLM
llama.cpp
SGLang
推理优化
GPU
MCP 2026 深度解析:AI推理性能瓶颈诊断的12个隐性耗时陷阱——从TensorRT-LLM到vLLM再到Triton的全引擎实战
编程
MCP 2026 深度解析:AI推理性能瓶颈诊断的12个隐性耗时陷阱——从TensorRT-LLM到vLLM再到Triton的全引擎实战
2026-04-30 14:21:13 +0800 CST
view 414
深度解析MCP 2026基准测试框架,拆解TensorRT-LLM、vLLM、Triton三大推理引擎的12个隐性耗时陷阱,提供可落地的诊断方法与修复路径。
AI推理
性能优化
TensorRT-LLM
vLLM
Triton
MCP2026
GPU优化
2026 大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构原理到生产级部署的完全指南
编程
2026 大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构原理到生产级部署的完全指南
2026-06-16 23:24:43 +0800 CST
view 161
深度对比四大主流LLM推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9。从PagedAttention架构原理、FlashAttention优化、量化支持到生产级部署实战,包含统一环境下的性能测试数据与代码示例,帮助你做出最优选型决策。
LLM
推理框架
vLLM
TensorRT
DeepSpeed
性能优化
AI
LLM推理引擎终极对决:vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
编程
LLM推理引擎终极对决:vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
2026-04-20 13:45:31 +0800 CST
view 613
深度对比vLLM与TensorRT-LLM两大LLM推理框架,从PagedAttention到Kernel Fusion,从量化技术到生产部署,助你做出正确的技术选型决策
LLM
vLLM
TensorRT-LLM
推理优化
大模型部署
量化技术
AI工程
2026大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——谁才是生产级部署的真正王者?
编程
2026大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——谁才是生产级部署的真正王者?
2026-06-23 08:22:26 +0800 CST
view 132
深度对比2026年四大主流大模型推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9,从核心架构、性能压测、成本分析到代码实战的完全指南。
vLLM
TensorRT-LLM
大模型推理
性能优化
DeepSpeed
TGI
2026大模型推理框架年度横评:vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
编程
2026大模型推理框架年度横评:vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
2026-06-18 17:54:54 +0800 CST
view 243
深度横评2026年四大主流大模型推理框架,涵盖PagedAttention架构、ContinuousBatching、算子融合、FP8量化、NVMe卸载等核心技术,配实测数据与生产级选型指南
大模型
LLM
推理框架
vLLM
TensorRT-LLM
TGI
DeepSpeed
GPU推理
AI部署
NVIDIA
XTDB 深度实战:当数据库学会了时间旅行——从双时态模型到 LSM-Tree 存储引擎、从 SQL:2011 到 PostgreSQL 兼容的生产级完全指南(2026)
编程
XTDB 深度实战:当数据库学会了时间旅行——从双时态模型到 LSM-Tree 存储引擎、从 SQL:2011 到 PostgreSQL 兼容的生产级完全指南(2026)
2026-06-20 08:09:09 +0800 CST
view 134
深入解析 XTDB 双时态数据库:从 SQL:2011 双时态模型到 LSM-Tree + Apache Arrow 存储引擎,从 System Time/Valid Time 到时间旅行查询,包含金融审计、保险理赔、AI Agent 可观测性等完整实战案例
XTDB
bitemporal
SQL:2011
时间旅行
PostgreSQL
LSM-Tree
Apache Arrow
数据库
审计合规
TensorRT-LLM 深度实战:从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命
编程
TensorRT-LLM 深度实战:从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命
2026-05-22 06:19:51 +0800 CST
view 417
深入解析TensorRT-LLM推理框架,从Paged KV Cache、连续批处理到INT4/INT8/FP8量化实战,覆盖Blackwell架构适配、Triton部署与K8s生产方案
TensorRT-LLM
LLM推理
量化
INT4
Blackwell
GPU优化
2026 大模型推理优化:TensorRT-LLM v0.19 + Blackwell + 低比特量化实战手册
编程
2026 大模型推理优化:TensorRT-LLM v0.19 + Blackwell + 低比特量化实战手册
2026-04-09 03:15:44 +0800 CST
view 808
2026年TensorRT-LLM v0.19全面解析:Skip Softmax稀疏注意力、Paged KV Cache显存管理、INT8/INT4低比特量化完整实战,Blackwell架构适配指南,70B模型单卡部署方案
TensorRT-LLM
低比特量化
Blackwell
INT8
INT4
推理优化
NVIDIA
Rspack 1.5 深度实战:当 Rust 重写前端构建的最后一公里——从 Barrel 文件优化到 React Compiler 原生集成、从纯函数 Tree Shaking 到运行时模式实验的生产级完全指南(2026)
编程
Rspack 1.5 深度实战:当 Rust 重写前端构建的最后一公里——从 Barrel 文件优化到 React Compiler 原生集成、从纯函数 Tree Shaking 到运行时模式实验的生产级完全指南(2026)
2026-06-22 07:55:33 +0800 CST
view 101
Rspack 1.5 深度解析:Barrel文件优化消灭性能黑洞、React Compiler原生SWC集成、纯函数Tree Shaking默认启用、运行时模式实验、持久化缓存增强、Seal阶段优化,附完整迁移指南
Rspack
Rust
前端构建
Barrel文件
React Compiler
Tree Shaking
Module Federation
Webpack迁移
一套TypeScript代码,编译成macOS/iOS/Android全平台原生应用:Perry开源
编程
一套TypeScript代码,编译成macOS/iOS/Android全平台原生应用:Perry开源
2026-04-29 12:17:15 +0800 CST
view 1079
Perry是基于Rust+SWC+LLVM的TypeScript原生编译器,将TS代码编译为macOS/iOS/Android/Linux/Windows/WebAssembly全平台原生二进制,无需Node.js、无需Electron,输出仅2-5MB。MIT开源。
TypeScript
跨平台开发
Rust
开源
原生应用
LLVM
SWC
Perry
WeChatFerry 聊天 MCP 工具:让 AI 直接操控微信
编程
WeChatFerry 聊天 MCP 工具:让 AI 直接操控微信
2026-05-12 12:18:09 +0800 CST
view 437
基于WeChatFerry的聊天MCP工具,通过标准MCP协议让AI编程工具直接操控微信:发消息、管群聊、查通讯录、接收转账。支持Claude Code/Codex/VSCode等客户端,Go语言开发,仅Windows。
WeChatFerry
MCP
微信
Claude Code
Codex
Swift 所有权革命深度实战:当 Ref 借用终结 ARC 时代——从 Span 零拷贝到 UniqueArray 弃 CoW 的生产级完全指南(2026)
编程
Swift 所有权革命深度实战:当 Ref 借用终结 ARC 时代——从 Span 零拷贝到 UniqueArray 弃 CoW 的生产级完全指南(2026)
2026-06-10 19:57:07 +0800 CST
view 194
Swift 6.4 所有权革命深度实战:Ref 安全借用终结指针时代,Span 零拷贝视图消除内存复制,UniqueArray 摒弃 CoW 直逼 Rust Vec 性能,Continuation 编译期防崩溃,完整代码示例与性能基准对比。
Swift
所有权
Ref
Span
UniqueArray
WWDC26
性能优化
Polars 深度实战:碾压 Pandas 的 Rust 极速 DataFrame 引擎——从 Apache Arrow 内存模型到 Lazy Execution 的完全指南(2026)
编程
Polars 深度实战:碾压 Pandas 的 Rust 极速 DataFrame 引擎——从 Apache Arrow 内存模型到 Lazy Execution 的完全指南(2026)
2026-06-02 16:24:32 +0800 CST
view 289
深度解析 Polars 如何基于 Rust 和 Apache Arrow 实现比 Pandas 快 94 倍的性能,涵盖 Lazy Execution、查询优化、生产实践
Polars
Rust
DataFrame
Python数据分析
高性能计算
Apache Arrow
Lazy Execution
Redis 8.8 深度实战:当原生Array遇见原子限流——从新数据结构到字段级通知、Stream消息回收与多聚合时序查询的生产级完全指南(2026)
编程
Redis 8.8 深度实战:当原生Array遇见原子限流——从新数据结构到字段级通知、Stream消息回收与多聚合时序查询的生产级完全指南(2026)
2026-06-17 12:53:51 +0800 CST
view 160
Redis 8.8 GA 版本深度解析:原生 Array、原子限流 INCREX、Stream 消息回收 XNACK、Hash 字段级通知、多聚合时序查询等核心特性,含完整代码示例
Redis
Redis 8.8
Array
INCREX
XNACK
限流
Streams
YC总裁GStack深度解析:一人成军的AI工程革命,从提示词集合到虚拟工程团队的方法论跃迁
编程
YC总裁GStack深度解析:一人成军的AI工程革命,从提示词集合到虚拟工程团队的方法论跃迁
2026-05-11 17:56:21 +0800 CST
view 535
YC总裁Garry Tan开源的GStack,将Claude Code从通用AI助手变成一支虚拟工程团队:CEO、设计师、架构师、QA、安全官等23个专家角色。60天产出60万行生产代码,日均1万行。本文深度解析GStack技术架构、方法论和实战技巧。
GStack,Y Combinator,Garry Tan,Claude Code,AI编程,虚拟工程团队,斜杠命令,AI Agent
Polars + Apache Arrow + DuckDB:现代列式数据处理三驾马车——从 Rust 引擎到嵌入式 OLAP 的生产级完全指南(2026)
编程
Polars + Apache Arrow + DuckDB:现代列式数据处理三驾马车——从 Rust 引擎到嵌入式 OLAP 的生产级完全指南(2026)
2026-06-25 18:50:28 +0800 CST
view 57
深度剖析 Polars、Apache Arrow 和 DuckDB 三驾现代列式数据处理马车,从 Rust 引擎到嵌入式 OLAP 数据库,万字长文带你掌握 2026 年数据工程的核心技术栈
Polars
Apache Arrow
DuckDB
数据分析
Rust
列式存储
gstack 深度实战:YC 总裁的"数字工程团队"如何让一个人拥有千军万马——从 21 个 AI Agent 架构到生产级部署完全指南(2026)
编程
gstack 深度实战:YC 总裁的"数字工程团队"如何让一个人拥有千军万马——从 21 个 AI Agent 架构到生产级部署完全指南(2026)
2026-05-30 12:39:33 +0800 CST
view 345
gstack 是 Y Combinator 总裁 Garry Tan 开源的 AI 辅助开发工具包,将 Claude Code 扩展成拥有 21 个专业 AI Agent 的虚拟工程团队。本文从架构原理、Agent 协作机制、安装配置、生产级部署实战等方面,全面解析这套让单兵拥有千军万马作战能力的工程操作系统。
gstack
Claude Code
AI Agent
YC
Y Combinator
工程化
虚拟团队
Garry Tan
编程工具
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
...
37
下一页