程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
GPU上的无畏并发:cuTile Rust如何用Rust所有权系统破解GPU安全编程难题
编程
GPU上的无畏并发:cuTile Rust如何用Rust所有权系统破解GPU安全编程难题
2026-07-29 10:46:05 +0800 CST
view 192
深度拆解NVIDIA cuTile Rust:用Rust所有权系统实现GPU内核的编译期安全保证,7TB/s元素级操作、2PFlop/s GEMM达到cuBLAS 96%性能。
Rust
GPU编程
cuTile
内存安全
无数据竞争
CUDA
所有权系统
NVIDIA
vLLM 深度实战:从 PagedAttention 到 Speculative Decoding——2026年大模型推理引擎内核架构完全指南
编程
vLLM 深度实战:从 PagedAttention 到 Speculative Decoding——2026年大模型推理引擎内核架构完全指南
2026-05-23 18:44:14 +0800 CST
view 716
2026年深度长文,从PagedAttention分页思想、Continuous Batching调度算法、Speculative Decoding并行验证机制到CUDA Kernel底层实现,全面拆解vLLM推理引擎内核架构,附生产级部署实战与框架横向对比。
vLLM
PagedAttention
Continuous Batching
Speculative Decoding
GPU推理
大模型部署
深度学习
CUDA
Karpathy Skills 深度解析:187K Star 的 AI 编程四原则——从错误假设到工程级代码的完整进化指南
编程
Karpathy Skills 深度解析:187K Star 的 AI 编程四原则——从错误假设到工程级代码的完整进化指南
2026-07-04 13:14:42 +0800 CST
view 444
深度解析 Andrej Karpathy Skills 项目:187K Star 的 AI 编程四原则,从错误假设、过度工程化、附带损伤、验证缺失四大痛点出发,详细阐述 Think Before Coding、Simplicity First、Surgical Changes、Goal-Driven Execution 四原则的技术原理、工程实践与代码示例。
Karpathy Skills
AI编程
CLAUDE.md
Claude Code
Cursor
提示工程
代码质量
LLM编程
四原则
工程实践
RLX 深度拆解:MIT 如何用纯 Rust 写出一个「编译器+运行时合一」的 ML 框架——从 JAX 形状的张量 IR 到 15 种硬件后端的全栈工程哲学
编程
RLX 深度拆解:MIT 如何用纯 Rust 写出一个「编译器+运行时合一」的 ML 框架——从 JAX 形状的张量 IR 到 15 种硬件后端的全栈工程哲学
2026-08-04 01:43:34 +0800 CST
view 177
深度拆解MIT RLX纯Rust ML编译器架构:统一IR贯穿图优化到内核调度、15种硬件后端支持、JAX形自动微分、INT8量化感知训练、FPGA综合、Iroh NAT穿透分布式训练,附完整代码示例与性能优化实战指南
RLX
Rust
ML编译器
张量IR
自动微分
边缘计算
WebGPU
CUDA
Apple Silicon
量化部署
开源
MusaCoder 深度实战:当国产GPU遇见AI驱动的Kernel生成——从PyTorch到CUDA/MUSA原生算子的全栈训练完全指南(2026)
编程
MusaCoder 深度实战:当国产GPU遇见AI驱动的Kernel生成——从PyTorch到CUDA/MUSA原生算子的全栈训练完全指南(2026)
2026-06-16 06:47:47 +0800 CST
view 484
MusaCoder是首个基于国产GPU完成全链路训练的代码大模型,在KernelBench上超越Claude Opus 4.7。从三阶段数据合成、多样性RFT到执行反馈RL,深度解析全栈训练方法论。
MusaCoder
GPU Kernel
摩尔线程
国产GPU
CUDA
MUSA
大模型
强化学习
KernelBench
代码大模型
AI Coding
深度学习
CodeGraph 深度拆解:当「预索引知识图谱」决定干掉 grep/glob/Read——一个让 AI 编程助手省 57% Token 的代码搜索引擎如何重新定义大型项目的 AI 开发范式
编程
CodeGraph 深度拆解:当「预索引知识图谱」决定干掉 grep/glob/Read——一个让 AI 编程助手省 57% Token 的代码搜索引擎如何重新定义大型项目的 AI 开发范式
2026-08-04 07:13:06 +0800 CST
view 169
深度拆解CodeGraph代码知识图谱引擎:tree-sitter解析、引用解析、SQLite+FTS5存储、MCP协议暴露,10个工具、20+语言支持、14种框架路由识别,实测Token消耗降低51%、工具调用减少57%的完整架构分析与实战指南
CodeGraph
AI编程
知识图谱
代码搜索
MCP
Claude Code
Cursor
tree-sitter
SQLite
TurboQuant+ 深度拆解:用 2bit KV Cache 压缩重构 LLM 推理经济学——从 Walsh-Hadamard 旋转到 llama.cpp 生产级落地
编程
TurboQuant+ 深度拆解:用 2bit KV Cache 压缩重构 LLM 推理经济学——从 Walsh-Hadamard 旋转到 llama.cpp 生产级落地
2026-07-28 11:48:24 +0800 CST
view 150
深度拆解Google ICLR 2026论文TurboQuant及其工程增强TurboQuant+:极坐标量化+QJL残差编码实现2bit KV Cache压缩,配合llama.cpp跨后端(CUDA/ROCm/Metal/Vulkan)生产级落地,附完整代码实战与选型建议
TurboQuant
KV Cache
LLM推理
llama.cpp
量化
显存优化
Walsh-Hadamard
Vulkan
CUDA
ROCm
CodeGraph 深度实战:当 Tree-sitter 知识图谱终结 AI 编程的「盲人摸象」时代——从预索引架构到生产级代码理解完全指南(2026)
编程
CodeGraph 深度实战:当 Tree-sitter 知识图谱终结 AI 编程的「盲人摸象」时代——从预索引架构到生产级代码理解完全指南(2026)
2026-06-10 15:51:19 +0800 CST
view 669
CodeGraph 是一个专为 AI 编程代理打造的本地代码知识图谱引擎,通过预索引架构让 AI 真正理解代码结构。本文从 Tree-sitter 解析原理讲起,深度拆解其知识图谱构建、MCP 工具生态、性能优化与生产级集成实战。
CodeGraph
Tree-sitter
AI编程
知识图谱
MCP
Claude Code
Cursor
代码索引
TurboQuant+ 深度拆解:用 2bit KV Cache 压缩重构 LLM 推理经济学——从 Walsh-Hadamard 旋转到 llama.cpp 生产级落地
编程
TurboQuant+ 深度拆解:用 2bit KV Cache 压缩重构 LLM 推理经济学——从 Walsh-Hadamard 旋转到 llama.cpp 生产级落地
2026-07-28 11:50:04 +0800 CST
view 188
深度拆解Google ICLR 2026论文TurboQuant及其工程增强TurboQuant+:极坐标量化+QJL残差编码实现2bit KV Cache压缩,配合llama.cpp跨后端(CUDA/ROCm/Metal/Vulkan)生产级落地,附完整代码实战与选型建议
TurboQuant
KV Cache
LLM推理
llama.cpp
量化
显存优化
Walsh-Hadamard
Vulkan
CUDA
ROCm
TurboQuant+深度拆解:极坐标量化+QJL残差编码——2bit KV Cache压缩重构 LLM 推理经济学
编程
TurboQuant+深度拆解:极坐标量化+QJL残差编码——2bit KV Cache压缩重构 LLM 推理经济学
2026-07-28 11:52:16 +0800 CST
view 238
深度拆解Google ICLR 2026论文TurboQuant及其工程增强TurboQuant+:极坐标量化+QJL残差编码实现2bit KV Cache压缩,配合llama.cpp跨后端(CUDA/ROCm/Metal/Vulkan)生产级落地,附完整代码实战与选型建议
TurboQuant
KV Cache
LLM推理
llama.cpp
量化
显存优化
Walsh-Hadamard
Vulkan
CUDA
ROCm
ECC (Everything Claude Code) 深度实战:当20万星开源项目重新定义AI Agent开发范式——从架构设计到生产级效能优化的完全指南(2026)
编程
ECC (Everything Claude Code) 深度实战:当20万星开源项目重新定义AI Agent开发范式——从架构设计到生产级效能优化的完全指南(2026)
2026-06-10 18:48:38 +0800 CST
view 869
ECC (Everything Claude Code) 是2026年GitHub增长最快的AI Agent工具链项目,突破20万星。本文深入解析其Skills系统、Instincts本能机制、Memory持久化等核心架构,并给出生产级配置实战与Token优化指南。
AI编程
Claude Code
Cursor
GitHub开源
AI Agent
TDD
代码审查
Token优化
多Agent协作
ECC框架
AMD ROCm 7.14 正式版深度解析:从技术预览到生产级 AI 基础设施的完整蜕变
编程
AMD ROCm 7.14 正式版深度解析:从技术预览到生产级 AI 基础设施的完整蜕变
2026-07-23 12:16:06 +0800 CST
view 348
深度解析 AMD ROCm 7.14 正式版:TheRock 构建系统、Ryzen AI Max PRO 400 硬件支持、PyTorch 2.12 + JAX 0.10.0 框架支持、HIPify CUDA 迁移实战与 vLLM 推理部署完整指南。
ROCm
AMD GPU
HIP
CUDA迁移
PyTorch
JAX
MI350P
Ryzen AI Max
ROCm 7.14
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
编程
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
2026-06-29 17:16:04 +0800 CST
view 632
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
AMD ROCm 7.14 正式版发布:TheRock 构建系统 × Ryzen AI Max PRO 400 × PyTorch 2.12 生产级实战
编程
AMD ROCm 7.14 正式版发布:TheRock 构建系统 × Ryzen AI Max PRO 400 × PyTorch 2.12 生产级实战
2026-07-23 12:17:54 +0800 CST
view 318
深度解析 AMD ROCm 7.14 正式版:TheRock 模块化构建系统、Ryzen AI Max PRO 400 统一内存架构、PyTorch 2.12+JAX 0.10.0 框架支持,配 HIPify 迁移实战与 vLLM 推理部署完整指南。
ROCm
AMD GPU
HIP
CUDA迁移
PyTorch
JAX
MI350P
Ryzen AI Max
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
编程
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
2026-06-29 17:17:00 +0800 CST
view 385
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
OmniRoute 深度拆解:一个开源 AI 网关如何终结「AI 路由焦虑」,290+ 厂商、19 种策略与 Token 暴降 60% 的工程实践
编程
OmniRoute 深度拆解:一个开源 AI 网关如何终结「AI 路由焦虑」,290+ 厂商、19 种策略与 Token 暴降 60% 的工程实践
2026-07-29 03:15:11 +0800 CST
view 228
深度拆解 GitHub 28.8k Star 的 OmniRoute:一个开源本地 AI 网关的完整架构解析,涵盖 19 种智能路由策略、RTK+Caveman 双引擎 Token 压缩(成本降低 60%)、配额感知动态路由,以及与 Claude Code、Cursor 等工具的深度集成实战,附生产级配置指南。
OmniRoute
AI网关
智能路由
Token压缩
API聚合
成本优化
Claude Code
Cursor
OpenAI
Anthropic
DeepSeek
RTK
Caveman
instinct 深度解析:当 AI Agent 第一次学会「从经验中自己长大」
编程
instinct 深度解析:当 AI Agent 第一次学会「从经验中自己长大」
2026-04-10 05:23:42 +0800 CST
view 734
instinct 是一个基于置信度的 AI Agent 自学习记忆系统,通过「观察→重复→成熟→建议」机制,让 Claude Code、Cursor 等 MCP Agent 具备跨会话自学习能力,从被动执行规则变成主动形成习惯。
AI Agent
记忆系统
instinct
置信度学习
MCP
Claude Code
Cursor
从碎片化到统一:OmniRoute 架构设计、19 种路由策略与 Token 暴降 60% 实战
编程
从碎片化到统一:OmniRoute 架构设计、19 种路由策略与 Token 暴降 60% 实战
2026-07-29 03:15:39 +0800 CST
view 213
深度拆解 GitHub 28.8k Star 的 OmniRoute:一个开源本地 AI 网关的完整架构解析,涵盖 19 种智能路由策略、RTK+Caveman 双引擎 Token 压缩(成本降低 60%)、配额感知动态路由,以及与 Claude Code、Cursor 等工具的深度集成实战,附生产级配置指南。
OmniRoute
AI网关
智能路由
Token压缩
API聚合
成本优化
Claude Code
Cursor
OpenAI
Anthropic
DeepSeek
RTK
Caveman
ECC 深度实战:Agent Harness 性能优化系统完全指南——从 182K 星项目看 AI 编程工具链的工程化实践(2026)
编程
ECC 深度实战:Agent Harness 性能优化系统完全指南——从 182K 星项目看 AI 编程工具链的工程化实践(2026)
2026-06-02 14:26:53 +0800 CST
view 811
深入解析 GitHub 182K Stars 的 ECC 项目:Agent Harness 性能优化系统,涵盖 Skills、Instincts、Memory、Security、Orchestration 五大核心模块,以及跨 12+ 平台的统一工具链优化方案。
ECC,AI Agent,Claude Code,Cursor,Token优化,AgentShield,Instinct系统,Rust,AI编程工具链
狂揽50000 Star!谷歌开源Agent Skills:让AI从只会写代码进化成懂工程有纪律的靠谱队友
编程
狂揽50000 Star!谷歌开源Agent Skills:让AI从只会写代码进化成懂工程有纪律的靠谱队友
2026-06-16 19:45:38 +0800 CST
view 376
Google开源Agent Skills(50000+ Star):把《Software Engineering at Google》方法论拆解成20+独立Skill,/spec需求定义+/plan任务拆解+/ship三Agent并行评审,让AI从只会写代码进化成懂工程有纪律的靠谱队友。
Agent Skills
Google
AI编程
软件工程
Claude Code
Cursor
开源
Code Review
测试覆盖
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
编程
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
2026-08-04 19:22:29 +0800 CST
view 162
深度拆解SGLang 27K Star开源LLM推理框架:RadixAttention基数树前缀缓存实现3-8倍加速、自研FlashInfer CUDA Kernel、Prefill-Decode分离架构、GB300 NVL72上25倍性能飞跃、DFlash投机采样、多LoRA热切换,附完整部署与调优指南
SGLang
LLM推理
RadixAttention
FlashInfer
GPU加速
大模型部署
推理引擎
PagedAttention
PD分离
投机采样
CUDA
开源
TileKernels 深度解析:DeepSeek 用 80 行代码榨干 GPU,算子开发范式的降维打击
编程
TileKernels 深度解析:DeepSeek 用 80 行代码榨干 GPU,算子开发范式的降维打击
2026-04-30 03:22:15 +0800 CST
view 981
深度解析 DeepSeek 开源的高性能 GPU 算子库 TileKernels:基于 TileLang DSL 用 80 行代码实现手写 CUDA 级性能,覆盖 MoE Gating/Routing、FP8/FP4 量化、Engram 门控等七大算子家族,首次原生支持 NVIDIA Blackwell 架构,并通过 TVM 编译器打通昇腾等国产芯片。
DeepSeek
TileKernels
GPU
CUDA
TileLang
MoE
算子优化
从"Vibe Coding"到"工程级约束":Agent Skills 如何重塑 AI 编码的生产力范式
编程
从"Vibe Coding"到"工程级约束":Agent Skills 如何重塑 AI 编码的生产力范式
2026-05-16 17:48:12 +0800 CST
view 664
Agent Skills是Google Cloud AI总监Addy Osmani开源的生产级工程技能框架,为AI编码代理注入资深工程师的工作纪律。本文深度解析其六阶段开发流程、反合理化机制、三大铁律,以及在Claude Code/Cursor中的落地实践。
Agent Skills
Addy Osmani
AI编程
Claude Code
Cursor
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
2026-08-04 22:46:33 +0800 CST
view 223
深度拆解Redis创始人antirez打造的DwarfStar 4本地推理引擎:专用MoE推理栈、非对称2-Bit量化、磁盘KV缓存、SSD流式加载、多机流水线并行,在128GB MacBook上跑出26 tok/s的284B模型推理
DwarfStar
Redis
antirez
DeepSeek
MoE
本地推理
LLM
推理引擎
2-Bit量化
KV缓存
Apple Metal
CUDA
开源
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
3
4
5
6
7
...
32
下一页