程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
OpenAI Jalapeño 深度解析:9个月流片的AI推理芯片如何把成本砍掉一半,英伟达GPU帝国的裂痕
编程
OpenAI Jalapeño 深度解析:9个月流片的AI推理芯片如何把成本砍掉一半,英伟达GPU帝国的裂痕
2026-06-29 21:14:35 +0800 CST
view 378
深度解析OpenAI首款自研AI推理芯片Jalapeño:9个月流片、推理成本降低50%、每瓦性能超越英伟达GPU。从架构设计、内存优化、数据流优化到产业链合作,全方位解读这款芯片如何重塑AI推理市场格局。
OpenAI
Jalapeño
AI芯片
ASIC
推理芯片
英伟达
GPU
博通
Broadcom
LLM推理
AI编程Agent用10小时凿开CUDA护城河:推理战场的底层软件革命与程序员的真实机遇
编程
AI编程Agent用10小时凿开CUDA护城河:推理战场的底层软件革命与程序员的真实机遇
2026-08-10 14:47:15 +0800 CST
view 103
深度拆解AI编程Agent用10小时为非英伟达芯片搭建底层软件栈的事件:从CUDA三层架构本质、Infinity Ignition Agent原理、推理战场竞争格局、到验证生态护城河,结合DeepSeek TileLang路径对比,给出程序员视角的机遇分析。
CUDA
AI Agent
推理芯片
Infinity
Ignition
d-Matrix
底层软件
GPU Kernel
芯片适配
护城河
RISC-V 深度拆解:从指令集哲学到 2nm 芯片实战——一个开源架构如何打破 x86/ARM 双寡头格局
编程
RISC-V 深度拆解:从指令集哲学到 2nm 芯片实战——一个开源架构如何打破 x86/ARM 双寡头格局
2026-08-01 07:44:57 +0800 CST
view 154
深度拆解 RISC-V 开源指令集架构:从指令集哲学、特权模式、向量扩展与 AI 加速,到工具链生态与真实芯片开发。涵盖 RVA23 标准、BER10 2nm 芯片、服务器平台规范,以及从 QEMU 模拟到流片的完整实战路径。
RISC-V
开源芯片
指令集架构
向量扩展
AI加速
虚拟化
特权模式
芯片设计
Go
Rust
玄铁C950深度实战:当RISC-V旗舰芯片突破SPECint2006 70分大关——从超标量流水线到千亿参数大模型原生推理的完全指南(2026)
编程
玄铁C950深度实战:当RISC-V旗舰芯片突破SPECint2006 70分大关——从超标量流水线到千亿参数大模型原生推理的完全指南(2026)
2026-06-22 20:59:56 +0800 CST
view 741
深度剖析2026年RISC-V旗舰芯片玄铁C950:SPECint2006首次突破70分、8指令译码16级流水线、千亿参数大模型原生推理、CoVE机密计算——从微架构设计到生态格局的完全解读。
RISC-V
玄铁
处理器架构
AI推理
SPECint2006
开源芯片
阿里达摩院
RISC-V 正在重写芯片世界:从香山处理器到如意系统,一场从指令集到生态的开源革命
编程
RISC-V 正在重写芯片世界:从香山处理器到如意系统,一场从指令集到生态的开源革命
2026-07-13 11:15:02 +0800 CST
view 313
深度拆解RISC-V开源芯片生态:从香山处理器微架构、如意操作系统内核设计、向量/矩阵扩展AI推理到玄铁C930服务器级部署,配完整代码示例与性能优化指南。
RISC-V
香山处理器
如意系统
开源芯片
指令集架构
高性能计算
AI推理
RISC-V 2026 深度实战:当开源架构迎来生态拐点——从玄铁C950性能革命到RVA23统一标准、AI原生支持与开发者实战指南
编程
RISC-V 2026 深度实战:当开源架构迎来生态拐点——从玄铁C950性能革命到RVA23统一标准、AI原生支持与开发者实战指南
2026-06-18 13:57:24 +0800 CST
view 660
深度解析RISC-V 2026年生态拐点:玄铁C950性能突破、RVA23统一标准、AI原生支持、Ubuntu 26.04与Android适配,提供完整开发者实战指南。
RISC-V
开源芯片
系统编程
AI推理
嵌入式开发
性能优化
OpenAI首款自研推理芯片Jalapeño深度解析:当AI开始自己设计自己的「心脏」
编程
OpenAI首款自研推理芯片Jalapeño深度解析:当AI开始自己设计自己的「心脏」
2026-06-26 08:15:34 +0800 CST
view 588
深度解析OpenAI首款自研推理芯片Jalapeño的技术架构、产业格局影响,以及为什么这是AI权力格局的重新洗牌。
AI芯片
OpenAI
Jalapeño
推理加速
ASIC
博通
英伟达
当AI开始自己设计自己的「心脏」:OpenAI首款推理芯片Jalapeño技术内幕(2026完全指南)
编程
当AI开始自己设计自己的「心脏」:OpenAI首款推理芯片Jalapeño技术内幕(2026完全指南)
2026-06-26 08:16:25 +0800 CST
view 566
深度解析OpenAI首款自研推理芯片Jalapeño的技术架构、产业格局影响,以及为什么这是AI权力格局的重新洗牌。
AI芯片
OpenAI
Jalapeño
推理加速
ASIC
博通
英伟达
9个月流片的AI芯片神话:OpenAI Jalapeño如何改写推理芯片竞争格局
编程
9个月流片的AI芯片神话:OpenAI Jalapeño如何改写推理芯片竞争格局
2026-06-26 08:17:00 +0800 CST
view 589
深度解析OpenAI首款自研推理芯片Jalapeño的技术架构、产业格局影响,以及9个月流片的AI辅助设计革命。
AI芯片
OpenAI
Jalapeño
推理加速
ASIC
OpenAI Jalapeño 芯片深度解析:从"借道英伟达"到"自建帝国",一颗"辣椒"如何重塑 AI 算力格局
编程
OpenAI Jalapeño 芯片深度解析:从"借道英伟达"到"自建帝国",一颗"辣椒"如何重塑 AI 算力格局
2026-06-27 10:43:27 +0800 CST
view 328
2026年6月24日OpenAI发布首款自研AI推理芯片Jalapeño,从架构设计到流片仅用9个月。本文深度解析这颗ASIC的技术架构、数据流设计、AI辅助芯片工程、对英伟达的影响以及整个AI算力产业格局的重塑。
OpenAI,Jalapeño,AI芯片,ASIC,博通,Broadcom,LLM推理,AI基础设施,半导体,大模型
RISC-V 深度拆解:当开源指令集学会「造芯」——NVIDIA SiFive 联姻、Linux 7.2 默认支持与 NumPy RVV 优化如何重写芯片战争格局
编程
RISC-V 深度拆解:当开源指令集学会「造芯」——NVIDIA SiFive 联姻、Linux 7.2 默认支持与 NumPy RVV 优化如何重写芯片战争格局
2026-07-15 16:17:47 +0800 CST
view 574
深度拆解 2026 年 RISC-V 生态关键技术突破:NVIDIA SiFive 战略合作、Linux 7.2 默认支持国产芯片、灵睿智芯 P100 v1、RISC-V Vector 扩展优化,配完整代码实战与性能对比。
RISC-V
RV-Vector
RVV
NVIDIA
SiFive
向量计算
SIMD
LLVM向量化
NumPy
国产芯片
Linux内核
AI推理
异构计算
RISC-V深度实战:当中美联手与真机落地同时到来,2026年开发者必须掌握的新一代芯片架构
编程
RISC-V深度实战:当中美联手与真机落地同时到来,2026年开发者必须掌握的新一代芯片架构
2026-07-11 09:48:53 +0800 CST
view 168
2026年RISC-V生态全景深度解析:从指令集架构原理、主流开发板对比、完整工具链配置,到Linux系统开发、RVV向量优化与生产落地,配大量可运行代码。
RISC-V
芯片架构
开源
IoT
嵌入式
Linux
向量扩展
工具链
RustSBI
玄铁
RISC-V 2026 生态全景拆解:从开源芯片崛起四分之一天下到 OpenHarmony 统一内核的完整指南
编程
RISC-V 2026 生态全景拆解:从开源芯片崛起四分之一天下到 OpenHarmony 统一内核的完整指南
2026-08-13 11:15:56 +0800 CST
view 51
2026年RISC-V已拿下全球25%市场份额,中国RISC-V芯片占据其中60%。本文深度拆解OpenHarmony RISC-V统一内核的核心架构:HAL分层设计、上下文切换代码、MMU/Sv39页表实现、PMP内存保护,以及15条生产踩坑清单。
RISC-V
OpenHarmony
开源芯片
嵌入式
统一内核
IoT
微控制器
2026 大模型推理框架深度对比:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9 性能与成本终极较量
编程
2026 大模型推理框架深度对比:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9 性能与成本终极较量
2026-07-23 08:13:30 +0800 CST
view 347
2026年四大主流大模型推理框架深度对比:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9。从核心技术优化、吞吐量延迟、算力成本、部署适配性四大维度开展极致测评,为企业技术选型提供精准参考。
vLLM
TensorRT-LLM
TGI
DeepSpeed-MII
大模型推理
PagedAttention
FlashAttention
量化推理
GPU推理优化
OpenVINO 2026.3 深度拆解:从推理工具到「让大模型在 16GB 内存跑起来」的工程实践完全指南
编程
OpenVINO 2026.3 深度拆解:从推理工具到「让大模型在 16GB 内存跑起来」的工程实践完全指南
2026-08-13 08:43:23 +0800 CST
view 35
深度拆解OpenVINO 2026.3:磁盘卸载让300亿MoE模型在16GB内存运行、懒加载权重降低内存峰值、HuggingFace Transformers 5.5兼容、GenAI新流水线、EAGLE-3推测解码扩展,配完整Python/C++代码示例与15条生产踩坑清单。
OpenVINO
AI推理
Intel
深度学习
模型部署
CPU推理
GPU推理
MoE
磁盘卸载
大模型
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
编程
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
2026-08-03 09:43:58 +0800 CST
view 169
深度拆解vLLM V1引擎四大核心架构:PagedAttention V2融合块表与前缀树缓存、分离式推理Prefill/Decode架构、KV Connector标准化接口、LMCache三层KV Cache管理,附完整部署配置与性能基准测试
vLLM
PagedAttention
LMCache
分离式推理
大模型推理
KV Cache
推理引擎
LLM Serving
GPU优化
开源
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
编程
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
2026-06-15 21:20:49 +0800 CST
view 317
深入解析小米MiMo UltraSpeed如何通过SWA架构在通用GPU上突破1000 tokens/s推理速度,从O(n²)困境到极致跨越的完整技术指南。
SWA
Sliding Window Attention
LLM推理
小米MiMo
推理优化
Transformer
PagedAttention
量化推理
端侧AI
2026 大模型推理框架选型实战:从 vLLM、TGI 到 TensorRT-LLM 的全链路架构拆解与性能防线
编程
2026 大模型推理框架选型实战:从 vLLM、TGI 到 TensorRT-LLM 的全链路架构拆解与性能防线
2026-08-12 11:14:56 +0800 CST
view 58
深度拆解 2026 年四大主流推理框架 vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9 的核心技术、性能对比与选型指南,涵盖 PagedAttention、Continuous Batching、量化优化、分布式推理与生产踩坑清单。
vLLM
TensorRT-LLM
TGI
DeepSpeed-MII
大模型推理
KV Cache
PagedAttention
推理优化
量化
分布式推理
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
2026-06-10 10:17:56 +0800 CST
view 553
深度解析 vLLM 的核心架构 PagedAttention 和 Continuous Batching,从内存管理原理到生产级分布式部署的完全指南。
vLLM
LLM推理
PagedAttention
GPU优化
大模型部署
AI推理
Cloudflare 统一推理层深度实战:当一个API连通12家供应商70+模型——从AI Gateway到边缘智能体、从自动故障转移到多模态推理的生产级完全指南(2026)
编程
Cloudflare 统一推理层深度实战:当一个API连通12家供应商70+模型——从AI Gateway到边缘智能体、从自动故障转移到多模态推理的生产级完全指南(2026)
2026-06-22 04:23:24 +0800 CST
view 500
2026年4月Cloudflare发布统一推理层,一个API连通12家供应商70+模型。本文深度解析AI Gateway架构、边缘推理优化、多模态支持、智能体集成,附带完整代码示例,打造生产级AI应用。
Cloudflare
AI推理
边缘计算
AI Gateway
统一推理层
AI基础设施
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
案例
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
2026-05-10 08:40:22 +0800 CST
view 836
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎ds4.c,C+Metal从头编写,Mac Studio M3 Ultra上预填充468 token/s。关键优化:非对称量化(MoE专家层2-bit)、KV缓存搬硬盘、内置OpenAI/Anthropic双API。128GB Mac可跑,专为coding agent优化。
DeepSeek
AI推理
Mac
Redis
antirez
Metal
本地推理
MoE
GGUF
C语言
Apple Silicon
Claude Code
OpenAI API
Anthropic API
DiffusionGemma 深度实战:当 Google 用「扩散」颠覆自回归——从离散文本扩散原理到 MoE 架构、本地推理加速与生产级部署的完全指南(2026)
编程
DiffusionGemma 深度实战:当 Google 用「扩散」颠覆自回归——从离散文本扩散原理到 MoE 架构、本地推理加速与生产级部署的完全指南(2026)
2026-06-16 18:52:52 +0800 CST
view 573
Google DeepMind联合NVIDIA发布DiffusionGemma——基于离散文本扩散的实验性开源模型。本文深入解读26B MoE架构、双向注意力机制、本地推理4倍加速原理,附完整代码示例和部署实战。
Google
DiffusionGemma
扩散模型
MoE
开源LLM
本地推理
AI推理加速
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
编程
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
2026-08-04 19:22:29 +0800 CST
view 136
深度拆解SGLang 27K Star开源LLM推理框架:RadixAttention基数树前缀缓存实现3-8倍加速、自研FlashInfer CUDA Kernel、Prefill-Decode分离架构、GB300 NVL72上25倍性能飞跃、DFlash投机采样、多LoRA热切换,附完整部署与调优指南
SGLang
LLM推理
RadixAttention
FlashInfer
GPU加速
大模型部署
推理引擎
PagedAttention
PD分离
投机采样
CUDA
开源
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
2026-08-04 22:46:33 +0800 CST
view 142
深度拆解Redis创始人antirez打造的DwarfStar 4本地推理引擎:专用MoE推理栈、非对称2-Bit量化、磁盘KV缓存、SSD流式加载、多机流水线并行,在128GB MacBook上跑出26 tok/s的284B模型推理
DwarfStar
Redis
antirez
DeepSeek
MoE
本地推理
LLM
推理引擎
2-Bit量化
KV缓存
Apple Metal
CUDA
开源
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
...
10
下一页