程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
编程
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
2026-06-29 17:16:04 +0800 CST
view 464
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
AMD ROCm 7.14 正式版发布:TheRock 构建系统 × Ryzen AI Max PRO 400 × PyTorch 2.12 生产级实战
编程
AMD ROCm 7.14 正式版发布:TheRock 构建系统 × Ryzen AI Max PRO 400 × PyTorch 2.12 生产级实战
2026-07-23 12:17:54 +0800 CST
view 60
深度解析 AMD ROCm 7.14 正式版:TheRock 模块化构建系统、Ryzen AI Max PRO 400 统一内存架构、PyTorch 2.12+JAX 0.10.0 框架支持,配 HIPify 迁移实战与 vLLM 推理部署完整指南。
ROCm
AMD GPU
HIP
CUDA迁移
PyTorch
JAX
MI350P
Ryzen AI Max
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
编程
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
2026-06-29 17:17:00 +0800 CST
view 222
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
Qdrant 深度实战:当 Rust 写的向量数据库统治 AI 检索层——从 HNSW 到 GPU 加速、从混合搜索到生产级 K8s 部署的完全指南(2026)
编程
Qdrant 深度实战:当 Rust 写的向量数据库统治 AI 检索层——从 HNSW 到 GPU 加速、从混合搜索到生产级 K8s 部署的完全指南(2026)
2026-07-17 13:21:10 +0800 CST
view 108
2026年深度实战 Qdrant v1.13+:Rust 编写的高性能向量数据库核心架构、HNSW 算法原理与参数调优、GPU 加速索引构建、稀疏+密集混合搜索与 RRF 融合、Docker/Kubernetes StatefulSet 生产部署、Go 高性能客户端实战、AI Agent 记忆系统完整实现,12000字完全指南。
Qdrant
向量数据库
Rust
HNSW
GPU
RAG
AI
混合搜索
分布式
量化压缩
Kubernetes
Qdrant v1.13+ 深度实战:Rust 向量引擎 + GPU 加速 + 混合搜索 + K8s 全栈指南——2026 年 AI 检索层最优解
编程
Qdrant v1.13+ 深度实战:Rust 向量引擎 + GPU 加速 + 混合搜索 + K8s 全栈指南——2026 年 AI 检索层最优解
2026-07-17 13:22:42 +0800 CST
view 117
2026年深度实战 Qdrant:Rust 编写的高性能向量数据库核心架构、HNSW 算法与参数调优、GPU 加速索引构建、稀疏+密集混合搜索、RRF 融合、Kubernetes StatefulSet 生产部署与 AI Agent 记忆系统实战。
Qdrant
Rust
HNSW
GPU
RAG
AI
混合搜索
分布式
量化压缩
Kubernetes
Kubernetes v1.36「Haru」深度解析:71 项增强、4 年磨一剑的安全隔离,与 AI 时代的异构算力新范式
编程
Kubernetes v1.36「Haru」深度解析:71 项增强、4 年磨一剑的安全隔离,与 AI 时代的异构算力新范式
2026-05-10 00:12:43 +0800 CST
view 616
Kubernetes v1.36 Haru深度解析:Pod User Namespaces四年终GA、Mutating Admission Policies告别Webhook、DRA GPU可分片设备、OCI VolumeSource模型分发新范式、Ingress-NGINX退役与Gateway API迁移、完整升级检查清单
Kubernetes
K8s
DRA
GPU
User Namespaces
云原生
Container
Ingress
Gateway API
安全
Docker 27「Orion」深度解析:原生 AI 调度时代来临——GPU 拓扑感知、NUMA 绑定与容器化大模型部署新范式
编程
Docker 27「Orion」深度解析:原生 AI 调度时代来临——GPU 拓扑感知、NUMA 绑定与容器化大模型部署新范式
2026-05-10 00:41:20 +0800 CST
view 469
Docker 27 Orion深度解析:GPU拓扑感知调度与PCIe/NVLink自动绑定、NUMA内存带宽限制、dockerd-scheduler AI调度代理、docker ai run零配置LLM部署、Dockerfile.ai模型封装语法、OOM Killer五步防御、cgroups v2集成与生产环境避坑指南
Docker
容器化
GPU调度
NUMA
AI推理
LLM
docker-compose
cgroups
Dockerfile
NVIDIA
Pascal Editor 深度实战:当 WebGPU 遇见 3D 建筑可视化——从浏览器零安装到生产级架构的完全指南(2026)
编程
Pascal Editor 深度实战:当 WebGPU 遇见 3D 建筑可视化——从浏览器零安装到生产级架构的完全指南(2026)
2026-06-16 15:34:34 +0800 CST
view 283
Pascal Editor 是一个基于 WebGPU 和 React Three Fiber 构建的开源 3D 建筑编辑器,运行在浏览器中无需安装。本文深度解析其 Monorepo 架构、场景状态管理、WebGPU 渲染管线、CSG 布尔运算和性能优化策略。
WebGPU
Three.js
React Three Fiber
Pascal Editor
3D编辑器
Turborepo
Bun
Monorepo
CSG
前端工程化
OpenAI Jalapeño 深度解析:9个月流片的AI推理芯片如何把成本砍掉一半,英伟达GPU帝国的裂痕
编程
OpenAI Jalapeño 深度解析:9个月流片的AI推理芯片如何把成本砍掉一半,英伟达GPU帝国的裂痕
2026-06-29 21:14:35 +0800 CST
view 299
深度解析OpenAI首款自研AI推理芯片Jalapeño:9个月流片、推理成本降低50%、每瓦性能超越英伟达GPU。从架构设计、内存优化、数据流优化到产业链合作,全方位解读这款芯片如何重塑AI推理市场格局。
OpenAI
Jalapeño
AI芯片
ASIC
推理芯片
英伟达
GPU
博通
Broadcom
LLM推理
WSL Containers深度解析:Windows原生Linux容器的架构革命——从Build 2026到告别Docker Desktop的完整实战指南
编程
WSL Containers深度解析:Windows原生Linux容器的架构革命——从Build 2026到告别Docker Desktop的完整实战指南
2026-07-05 16:43:43 +0800 CST
view 551
深度解析微软Build 2026发布的WSL Containers:无需Docker Desktop,Windows 11原生运行Linux容器。涵盖架构原理、wslc命令实战、Container API编程、GPU直通CUDA、性能对比与迁移指南。
WSL
Containers
Docker
Windows
Linux
容器
Build 2026
wslc
virtiofs
GPU直通
英伟达 CUDA-Oxide 0.1 深度解析:用 Rust 编写 GPU 内核的破冰之旅
编程
英伟达 CUDA-Oxide 0.1 深度解析:用 Rust 编写 GPU 内核的破冰之旅
2026-05-10 08:20:42 +0800 CST
view 772
英伟达发布实验性Rust-to-CUDA编译器CUDA-Oxide 0.1,支持用Rust编写SIMT GPU内核并输出标准PTX中间代码。深度解析其架构设计、代码示例与未来展望。
CUDA-Oxide
Rust
GPU编程
NVIDIA
PTX
SIMT
并行计算
高性能计算
SGLang深度解析:RadixAttention架构下的大模型推理革命——从零到生产的高性能LLM服务框架实战指南
编程
SGLang深度解析:RadixAttention架构下的大模型推理革命——从零到生产的高性能LLM服务框架实战指南
2026-07-05 18:13:38 +0800 CST
view 349
深度解析SGLang高性能大模型推理框架:RadixAttention自动前缀缓存、零开销C++调度器、PD分离架构、多LoRA批处理、推测解码。含完整代码实战与vLLM/TensorRT-LLM对比。
SGLang
RadixAttention
LLM
推理引擎
大模型
vLLM
GPU
高并发
AI基础设施
性能优化
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
2026-06-11 03:16:24 +0800 CST
view 441
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
CUDA Tile 深度拆解:当 GPU 编程从「线程思维」跃迁到「数据块思维」——从 Tile IR、cuTile Python 到 Blackwell 硬件映射的工程全貌(2026)
编程
CUDA Tile 深度拆解:当 GPU 编程从「线程思维」跃迁到「数据块思维」——从 Tile IR、cuTile Python 到 Blackwell 硬件映射的工程全貌(2026)
2026-07-18 03:17:24 +0800 CST
view 111
深度拆解 NVIDIA CUDA 13.1 Tile 编程模型:从 SIMT 到 Tile-based 的范式革命、Tile IR 虚拟指令集、cuTile Python DSL、与 Triton 的竞争格局、Flash Attention 实战案例、完整迁移指南与性能优化技巧。
CUDA
GPU编程
cuTile
Tile IR
Blackwell
Tensor Core
高性能计算
深度学习
Python
TileKernels 深度解析:DeepSeek 用 80 行代码榨干 GPU,算子开发范式的降维打击
编程
TileKernels 深度解析:DeepSeek 用 80 行代码榨干 GPU,算子开发范式的降维打击
2026-04-30 03:22:15 +0800 CST
view 809
深度解析 DeepSeek 开源的高性能 GPU 算子库 TileKernels:基于 TileLang DSL 用 80 行代码实现手写 CUDA 级性能,覆盖 MoE Gating/Routing、FP8/FP4 量化、Engram 门控等七大算子家族,首次原生支持 NVIDIA Blackwell 架构,并通过 TVM 编译器打通昇腾等国产芯片。
DeepSeek
TileKernels
GPU
CUDA
TileLang
MoE
算子优化
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
编程
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
2026-06-11 03:17:21 +0800 CST
view 777
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
Linux 7.2 内核深度解析:Intel Xe3 架构驱动 Arc B390 核显性能跃升 12% 的技术内幕
编程
Linux 7.2 内核深度解析:Intel Xe3 架构驱动 Arc B390 核显性能跃升 12% 的技术内幕
2026-07-23 20:15:41 +0800 CST
view 125
深度解析 Linux 7.2 内核如何让 Intel Xe3 架构的 Arc B390 核显性能提升 12%。涵盖 Xe3 架构设计、GuC 批量命令提交、显存预分配策略、智能电源管理、AI 推理优化实战。
Linux
Intel
Xe3
Arc B390
GPU
i915
内核优化
图形驱动
光线追踪
AI推理
谷歌 LiteRT.js 深度实战:当 WebAssembly + WebGPU 重写 TensorFlow.js 的心脏,浏览器 AI 推理提速 3 倍背后的技术真相
编程
谷歌 LiteRT.js 深度实战:当 WebAssembly + WebGPU 重写 TensorFlow.js 的心脏,浏览器 AI 推理提速 3 倍背后的技术真相
2026-07-11 14:16:10 +0800 CST
view 232
2026年7月谷歌发布LiteRT.js,用WebAssembly+WebGPU/WebNN替代TensorFlow.js的JavaScript内核,M4 MacBook Pro上推理速度提升3倍。本文深度拆解架构设计、性能优化原理、迁移路径与实战代码。
LiteRT.js
WebGPU
WebNN
WebAssembly
TensorFlow.js
浏览器AI
机器学习
前端
LiteRT-LM:Google端侧大模型推理引擎的革命性架构——从TensorFlow Lite的困境到LLM原生推理的全链路解析
编程
LiteRT-LM:Google端侧大模型推理引擎的革命性架构——从TensorFlow Lite的困境到LLM原生推理的全链路解析
2026-04-19 22:17:39 +0800 CST
view 983
深入解析Google LiteRT-LM端侧LLM推理引擎的核心架构:分层内存池、KV Cache量化、算子融合、WebGPU运行时。与TensorFlow Lite、llama.cpp、MLX横向对比,提供生产级部署实战指南。
Google
端侧AI
LiteRT-LM
WebGPU
量化
KV Cache
TensorFlow Lite
LLM推理
uv 深度解析:Rust 重写的 Python 工具链,如何一口气吃掉 pip/poetry/pyenv/pipx
编程
uv 深度解析:Rust 重写的 Python 工具链,如何一口气吃掉 pip/poetry/pyenv/pipx
2026-07-24 02:43:38 +0800 CST
view 40
从工程师视角深度拆解 Astral 的 uv:PubGrub 解析器、内容寻址全局缓存与硬链接、universal resolution 跨平台锁文件、PEP 723 内联脚本依赖,以及 Docker/CI 生产落地与从 pip/poetry 迁移的完整实战。
uv
Python
Rust
pip
poetry
依赖管理
PubGrub
包管理
Astral
工具链
Kubernetes 1.36 AI工作负载调度深度实战:当容器编排终于懂GPU——从NUMA感知、拓扑调度到GPU碎片率下降42.6%的生产级完全指南
编程
Kubernetes 1.36 AI工作负载调度深度实战:当容器编排终于懂GPU——从NUMA感知、拓扑调度到GPU碎片率下降42.6%的生产级完全指南
2026-07-11 18:16:08 +0800 CST
view 229
深度剖析 Kubernetes 1.36 在 AI 工作负载调度上的核心突破:用户命名空间 GA、可变准入策略 GA、ML-aware 调度器插件、Device Plugin 增强,配生产级调优实战,实现 P99 延迟下降 27.3%、GPU 碎片率下降 42.6%。
Kubernetes
AI调度
GPU
NUMA
拓扑感知
DRA
Device Plugin
容器编排
云原生
深度学习
tinygrad 深度解剖:一套算子、ShapeTracker 与惰性图,凭什么用几千行代码把 PyTorch 的活干了
编程
tinygrad 深度解剖:一套算子、ShapeTracker 与惰性图,凭什么用几千行代码把 PyTorch 的活干了
2026-07-24 04:46:04 +0800 CST
view 39
深度拆解 tinygrad:如何用极少数原子算子+惰性图+编译器重写深度学习框架。涵盖瘦算子哲学、ShapeTracker零拷贝视图、UOp图与PatternMatcher重写、多后端renderer、reverse-mode autograd、TinyJit与BEAM搜索调优,配完整可运行代码。
tinygrad
深度学习框架
George Hotz
kernel融合
ShapeTracker
自动微分
编译器
GPU
Python
开源
Obscura 深度实战:从 Rust 无头引擎到 AI Agent 浏览器底座——Headless Chrome 的终结者还是补充者?
编程
Obscura 深度实战:从 Rust 无头引擎到 AI Agent 浏览器底座——Headless Chrome 的终结者还是补充者?
2026-05-23 12:15:52 +0800 CST
view 529
Obscura 是用 Rust 编写的高性能无头浏览器引擎,专为 AI Agent 和网页抓取设计。本文深度解析其架构设计、性能优势、Stealth 反检测机制及生产级实践。
Rust
无头浏览器
AI Agent
Web 抓取
V8
CDP
Playwright
Puppeteer
性能优化
架构设计
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
编程
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
2026-07-24 06:14:45 +0800 CST
view 44
深度对比vLLM与SGLang两大LLM推理引擎:PagedAttention vs RadixAttention,Continuous Batching原理,吞吐与延迟实战选型指南
vLLM
SGLang
LLM推理
PagedAttention
RadixAttention
Continuous Batching
GPU优化
推理引擎
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
3
4
5
6
7
...
27
下一页