程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
万字深度解析 Box3D:当 Box2D 作者遇见 3D 物理引擎——从 Erin Catto 的传奇生涯到 Soft Step 求解器、从 Continuous Collision 到生产级游戏集成的完整技术指南(2026)
编程
万字深度解析 Box3D:当 Box2D 作者遇见 3D 物理引擎——从 Erin Catto 的传奇生涯到 Soft Step 求解器、从 Continuous Collision 到生产级游戏集成的完整技术指南(2026)
2026-07-02 12:44:18 +0800 CST
view 775
深度解析 Box3D 开源 3D 物理引擎:从 Erin Catto 的传奇生涯、Soft Step 求解器、连续碰撞检测到 SIMD 优化、多线程并行,含完整代码实战与生产级集成指南。
Box3D
物理引擎
Erin Catto
游戏开发
3D物理
Soft Step
CCD
SIMD
游戏引擎
Newton 深度拆解:当 NVIDIA 联合迪士尼与 DeepMind 决定「干掉 CPU 物理仿真」——基于 Warp 的 GPU 加速引擎如何用可微分物理重新定义机器人学习的未来
编程
Newton 深度拆解:当 NVIDIA 联合迪士尼与 DeepMind 决定「干掉 CPU 物理仿真」——基于 Warp 的 GPU 加速引擎如何用可微分物理重新定义机器人学习的未来
2026-08-04 11:16:41 +0800 CST
view 196
深度拆解NVIDIA联合迪士尼研究院和Google DeepMind开源的Newton GPU加速物理仿真引擎:基于Warp的GPU原生架构、可微分物理、Hydroelastic接触模型、OpenUSD集成、4096环境并行训练,附完整代码示例与性能基准对比
Newton
NVIDIA
Warp
物理仿真
GPU加速
机器人
Disney Research
DeepMind
可微分物理
OpenUSD
MuJoCo
Linux Foundation
shimmy v2.3.0 深度解析:纯 Rust WebGPU 推理引擎如何让 GGUF 模型跑满你的每一块 GPU
编程
shimmy v2.3.0 深度解析:纯 Rust WebGPU 推理引擎如何让 GGUF 模型跑满你的每一块 GPU
2026-07-23 11:45:35 +0800 CST
view 213
深度解析纯 Rust WebGPU 推理引擎 shimmy v2.3.0:GGUF 原生加载、OpenAI API 兼容、KV Cache 量化、Flash Attention 等效实现,配 Tauri 桌面应用集成实战与性能基准测试。
shimmy
WebGPU
Rust
GGUF
LLM
llama.cpp
推理引擎
WebAssembly
SGLang深度解析:RadixAttention架构下的大模型推理革命——从零到生产的高性能LLM服务框架实战指南
编程
SGLang深度解析:RadixAttention架构下的大模型推理革命——从零到生产的高性能LLM服务框架实战指南
2026-07-05 18:13:38 +0800 CST
view 531
深度解析SGLang高性能大模型推理框架:RadixAttention自动前缀缓存、零开销C++调度器、PD分离架构、多LoRA批处理、推测解码。含完整代码实战与vLLM/TensorRT-LLM对比。
SGLang
RadixAttention
LLM
推理引擎
大模型
vLLM
GPU
高并发
AI基础设施
性能优化
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
编程
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
2026-08-04 19:22:29 +0800 CST
view 150
深度拆解SGLang 27K Star开源LLM推理框架:RadixAttention基数树前缀缓存实现3-8倍加速、自研FlashInfer CUDA Kernel、Prefill-Decode分离架构、GB300 NVL72上25倍性能飞跃、DFlash投机采样、多LoRA热切换,附完整部署与调优指南
SGLang
LLM推理
RadixAttention
FlashInfer
GPU加速
大模型部署
推理引擎
PagedAttention
PD分离
投机采样
CUDA
开源
Redis之父的「孤注一掷」:ds4.c如何让284B参数模型在128GB MacBook上跑起来
编程
Redis之父的「孤注一掷」:ds4.c如何让284B参数模型在128GB MacBook上跑起来
2026-07-11 16:17:33 +0800 CST
view 315
Redis之父 Salvatore Sanfilippo 2026年5月发布的新项目 ds4.c,专为 DeepSeek V4 Flash + Apple Silicon Metal 打造本地推理引擎,8000行代码实现2.5倍性能提升。本文深度解析其架构设计、Graph Executor、KV Cache页式管理与Metal Shader实现。
推理引擎
Apple Silicon
DeepSeek
Metal
Redis
ds4.c
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
2026-08-04 22:46:33 +0800 CST
view 186
深度拆解Redis创始人antirez打造的DwarfStar 4本地推理引擎:专用MoE推理栈、非对称2-Bit量化、磁盘KV缓存、SSD流式加载、多机流水线并行,在128GB MacBook上跑出26 tok/s的284B模型推理
DwarfStar
Redis
antirez
DeepSeek
MoE
本地推理
LLM
推理引擎
2-Bit量化
KV缓存
Apple Metal
CUDA
开源
Rust重写一切:2026年AI基础设施全面Rust化的技术浪潮——从推理引擎到向量数据库,从编译器到运行时的深度解析
编程
Rust重写一切:2026年AI基础设施全面Rust化的技术浪潮——从推理引擎到向量数据库,从编译器到运行时的深度解析
2026-07-05 22:44:34 +0800 CST
view 738
深度解析2026年Rust在AI基础设施中的全面崛起:推理引擎Candle/Burn、向量数据库Qdrant/Lance、工具链OXC/Biome/Ruff/uv、运行时Bun重写、WASM推理、MCP Server实现,含完整代码实战与性能优化指南
Rust
AI基础设施
推理引擎
向量数据库
开发者工具链
Candle
Qdrant
Ruff
OXC
性能优化
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
编程
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
2026-07-24 06:14:45 +0800 CST
view 325
深度对比vLLM与SGLang两大LLM推理引擎:PagedAttention vs RadixAttention,Continuous Batching原理,吞吐与延迟实战选型指南
vLLM
SGLang
LLM推理
PagedAttention
RadixAttention
Continuous Batching
GPU优化
推理引擎
ds4 深度解析:当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解
编程
ds4 深度解析:当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解
2026-06-12 18:19:08 +0800 CST
view 805
深度解析 Redis 之父 antirez 最新开源项目 ds4(DwarfStar):一个纯 C 语言手写的 DeepSeek V4 Flash 本地推理引擎。从「窄而深」的工程哲学、非对称 2-bit 量化、磁盘 KV 缓存、Metal/CUDA 内核优化到实际部署,完整拆解这个 13K+ Star 项目的技术内幕。
AI推理引擎
DeepSeek
本地推理
系统编程
开源项目
C语言
colibrì 深度拆解:1300行纯C代码驱动7440亿参数大模型——当「不可能」变成「只是慢」
编程
colibrì 深度拆解:1300行纯C代码驱动7440亿参数大模型——当「不可能」变成「只是慢」
2026-07-19 14:42:08 +0800 CST
view 457
深度拆解 colibrì 项目:一位意大利开发者用 10 天、1300 行纯 C 代码,在 25GB 笔记本上运行 7440 亿参数大模型的工程全貌。涵盖 MoE 稀疏推理、NVMe 流式专家、MLA 注意力、MTP 推测解码等核心技术的完整解析。
C语言
MoE
大模型
NVMe
量化
GPU
深度学习
GLM-5.2
推理引擎
推测解码
Qwen3.8-27B 深度实战:270亿参数如何把「多模态+长上下文+编程能力」塞进家用显卡——从 Dense 架构原理到本地部署全链路拆解
编程
Qwen3.8-27B 深度实战:270亿参数如何把「多模态+长上下文+编程能力」塞进家用显卡——从 Dense 架构原理到本地部署全链路拆解
2026-08-16 11:15:36 +0800 CST
view 32
深度拆解阿里Qwen3.8-27B:270亿参数原生多模态稠密模型,262K原生上下文可扩展至100万tokens,编程能力超越Qwen3.7-Plus。从Dense架构原理、混合注意力、YaRN外推、reasoning_effort机制,到INT4量化部署、KV Cache优化、vLLM推理加速、生产级FastAPI部署,配完整代码实战与性能对比数据。
Qwen3.8-27B
多模态模型
Dense架构
长上下文
本地部署
量化优化
编程能力
推理引擎
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
编程
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
2026-07-09 09:17:24 +0800 CST
view 507
深入剖析 2026 年大模型推理引擎核心技术:PagedAttention、Continuous Batching、Chunked Prefill、RadixAttention 前缀缓存、投机解码与 AWQ/GPTQ/FP8 量化,结合 vLLM 与 SGLang 部署实战,把 GPU 利用率榨到极限的生产级完全指南。
LLM推理引擎
vLLM
SGLang
推理优化
量化部署
投机解码
GPU利用率
KV Cache
PagedAttention
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
编程
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
2026-08-03 09:43:58 +0800 CST
view 187
深度拆解vLLM V1引擎四大核心架构:PagedAttention V2融合块表与前缀树缓存、分离式推理Prefill/Decode架构、KV Connector标准化接口、LMCache三层KV Cache管理,附完整部署配置与性能基准测试
vLLM
PagedAttention
LMCache
分离式推理
大模型推理
KV Cache
推理引擎
LLM Serving
GPU优化
开源
llama.cpp 深度拆解:一个纯 C++ 引擎如何让 180K Star 成为端侧 LLM 的事实标准——从 GGUF 格式到多后端架构的全栈解析
编程
llama.cpp 深度拆解:一个纯 C++ 引擎如何让 180K Star 成为端侧 LLM 的事实标准——从 GGUF 格式到多后端架构的全栈解析
2026-08-03 10:45:17 +0800 CST
view 367
深度拆解llama.cpp四大核心架构:GGUF模型格式设计、GGML计算引擎、8种多后端抽象层、K-Quant/I-Quant量化技术体系,附完整代码示例与性能基准测试
llama.cpp
GGUF
GGML
量化
端侧推理
LLM
C++
推理引擎
多后端
K-Quant
Ollama 融资 6500 万美元背后:2026 年本地大模型运行时生态深度拆解——为什么「极简主义」赢了
编程
Ollama 融资 6500 万美元背后:2026 年本地大模型运行时生态深度拆解——为什么「极简主义」赢了
2026-07-16 11:45:03 +0800 CST
view 387
从 Ollama 6500 万美元融资事件切入,深度拆解 2026 年本地大模型运行时生态:Ollama、llama.cpp、LocalAI、LiteBox、vLLM 的架构设计、性能对比、API 设计、适用场景,配完整代码实战与生产部署踩坑指南。
Ollama
本地大模型
llama.cpp
LocalAI
LiteBox
本地LLM
推理引擎
量化
GGUF
MCP
分布式 LLM 推理架构深度实战:从 vLLM 单节点到 llm-d 多集群的生产级演进全链路解析
编程
分布式 LLM 推理架构深度实战:从 vLLM 单节点到 llm-d 多集群的生产级演进全链路解析
2026-05-09 03:39:58 +0800 CST
view 771
深度解析分布式 LLM 推理架构,从 vLLM 单节点到 llm-d 多集群的生产级演进。涵盖推理引擎层、编排调度层、Kubernetes 多机多卡部署实战、性能优化技巧及成本优化策略。
LLM
vLLM
分布式推理
Kubernetes
Ray
推理引擎
NVIDIA Nemotron-Cascade-2 深度实战:30B MoE 模型如何拿下 IMO/IOI 双料金牌——从稀疏专家架构到生产级部署的完全指南(2026)
编程
NVIDIA Nemotron-Cascade-2 深度实战:30B MoE 模型如何拿下 IMO/IOI 双料金牌——从稀疏专家架构到生产级部署的完全指南(2026)
2026-06-01 12:56:48 +0800 CST
view 559
深度解析NVIDIA Nemotron-Cascade-2-30B-A3B模型:30B总参、3B激活参数的MoE架构,如何拿下IMO/IOI双料金牌,以及如何从HuggingFace加载到vLLM生产部署。
NVIDIA
Nemotron
MoE
AI模型
GPU
深度学习
推理引擎
vLLM
NVIDIA Cosmos 3 全模态物理AI深度解读:当世界模型从「纸上谈兵」走向「具身智能」——从 MoT 架构革命到万亿级合成数据的工业级落地指南(2026)
编程
NVIDIA Cosmos 3 全模态物理AI深度解读:当世界模型从「纸上谈兵」走向「具身智能」——从 MoT 架构革命到万亿级合成数据的工业级落地指南(2026)
2026-06-16 16:15:52 +0800 CST
view 564
2026年6月英伟达开源 Cosmos 3 全模态世界模型,本文从 MoT 架构、SILA 数据引擎、训练配方、推理部署四个维度进行程序员视角的深度解读,配代码示例与性能对比,探讨物理AI开发者的新机遇。
NVIDIA
Cosmos 3
物理AI
世界模型
MoT架构
具身智能
开源
机器人
世界模型:当AI从"预测下一个Token"进化到"理解物理世界",通往AGI的终极跃迁
编程
世界模型:当AI从"预测下一个Token"进化到"理解物理世界",通往AGI的终极跃迁
2026-07-23 18:17:40 +0800 CST
view 257
深度解析2026年世界模型技术突破:从GPT-5 World到Fysiverse,从JEPA架构到机器人控制实战。程序员视角的技术解析与实践指南。
世界模型
World Model
AI
AGI
物理推理
机器人
GPT-5
JEPA
Dreamer
具身智能
Next-State Prediction 世界模型深度解析:AI 从"猜词"到"建模物理世界"的范式跃迁
编程
Next-State Prediction 世界模型深度解析:AI 从"猜词"到"建模物理世界"的范式跃迁
2026-08-08 18:16:25 +0800 CST
view 129
深度解析2026年AI领域最激动人心的范式转移:从Next-Token Prediction到Next-State Prediction。世界模型如何让AI学会"预测未来"而非"猜下一个词"?本文从原理、架构、代码实战、性能对比等多维度全面拆解这一关键技术趋势。
世界模型
Next-State Prediction
AI
NSP
JEPA
具身智能
机器人
范式转移
物理推理
NVIDIA Cosmos 3 深度实战:当物理AI学会「全模态统一建模」——从 MoT 双塔架构到生产级机器人策略与自动驾驶仿真的完全指南(2026)
编程
NVIDIA Cosmos 3 深度实战:当物理AI学会「全模态统一建模」——从 MoT 双塔架构到生产级机器人策略与自动驾驶仿真的完全指南(2026)
2026-06-14 06:48:12 +0800 CST
view 518
NVIDIA Cosmos 3技术报告深度拆解:MoT双塔架构、统一动作表征、3D多模态位置编码、SILA数据引擎、生产级部署指南
NVIDIA
Cosmos3
物理AI
全模态
世界模型
MoT
机器人
自动驾驶
2026具身智能革命:当AI走出屏幕,物理世界成为新的战场——从世界模型到机器人大脑的完整技术解析
编程
2026具身智能革命:当AI走出屏幕,物理世界成为新的战场——从世界模型到机器人大脑的完整技术解析
2026-05-19 04:13:19 +0800 CST
view 997
2026年具身智能技术深度解析,从VLA模型、世界模型到机器人大脑,附完整PyTorch代码实现。
具身智能
物理AI
机器人
世界模型
VLA模型
Newton 深度解析:NVIDIA、DeepMind、Disney 三巨头联手打造的 GPU 物理引擎——机器人仿真的下一个十年(2026 完全指南)
编程
Newton 深度解析:NVIDIA、DeepMind、Disney 三巨头联手打造的 GPU 物理引擎——机器人仿真的下一个十年(2026 完全指南)
2026-05-28 21:06:26 +0800 CST
view 716
Newton是由Disney Research、Google DeepMind和NVIDIA联合开发的开源GPU加速物理仿真引擎,支持多物理场仿真、可微分仿真和大规模并行RL训练。
Newton
NVIDIA Warp
物理仿真
机器人
GPU加速
MuJoCo
开源项目
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
...
5
下一页