程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
MCP 2026 深度解析:AI推理性能瓶颈诊断的12个隐性耗时陷阱——从TensorRT-LLM到vLLM再到Triton的全引擎实战
编程
MCP 2026 深度解析:AI推理性能瓶颈诊断的12个隐性耗时陷阱——从TensorRT-LLM到vLLM再到Triton的全引擎实战
2026-04-30 14:21:13 +0800 CST
view 639
深度解析MCP 2026基准测试框架,拆解TensorRT-LLM、vLLM、Triton三大推理引擎的12个隐性耗时陷阱,提供可落地的诊断方法与修复路径。
AI推理
性能优化
TensorRT-LLM
vLLM
Triton
MCP2026
GPU优化
2026 大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构原理到生产级部署的完全指南
编程
2026 大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构原理到生产级部署的完全指南
2026-06-16 23:24:43 +0800 CST
view 324
深度对比四大主流LLM推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9。从PagedAttention架构原理、FlashAttention优化、量化支持到生产级部署实战,包含统一环境下的性能测试数据与代码示例,帮助你做出最优选型决策。
LLM
推理框架
vLLM
TensorRT
DeepSpeed
性能优化
AI
TypeScript 7.0 深度实战:当 tsc 终于用 Go 重写了自己——从 Corsa native port、共享内存并行到 10x 提速的生产级完全指南
编程
TypeScript 7.0 深度实战:当 tsc 终于用 Go 重写了自己——从 Corsa native port、共享内存并行到 10x 提速的生产级完全指南
2026-07-12 03:43:29 +0800 CST
view 334
TypeScript 7.0 用 Go 原生移植(old名 Corsa)实现 8x-12x 类型检查提速:详解忠实移植策略、共享内存并行架构、LSP 原生支持、内存下降与项目引用并行实战。
TypeScript 7
Go
native port
编译器
性能优化
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
编程
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
2026-06-30 11:16:18 +0800 CST
view 318
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
LLM推理引擎终极对决:vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
编程
LLM推理引擎终极对决:vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
2026-04-20 13:45:31 +0800 CST
view 886
深度对比vLLM与TensorRT-LLM两大LLM推理框架,从PagedAttention到Kernel Fusion,从量化技术到生产部署,助你做出正确的技术选型决策
LLM
vLLM
TensorRT-LLM
推理优化
大模型部署
量化技术
AI工程
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
编程
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
2026-06-30 11:17:15 +0800 CST
view 363
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
Google AI Edge Gallery 深度拆解:当手机成为大模型的「离线战场」——从 LiteRT 推理引擎到端侧 GenAI 的工程全貌(2026)
编程
Google AI Edge Gallery 深度拆解:当手机成为大模型的「离线战场」——从 LiteRT 推理引擎到端侧 GenAI 的工程全貌(2026)
2026-07-18 12:44:38 +0800 CST
view 224
深度拆解 Google AI Edge Gallery 开源项目:LiteRT 推理引擎架构、INT4 量化原理、多模态支持、模型转换实战、企业级落地场景,配完整 Kotlin 代码示例与性能优化指南。
Google AI Edge Gallery
LiteRT
端侧AI
大模型
Android
量化
多模态
离线推理
移动端部署
GenAI
RTK(Rust Token Killer):7 万 Star 工具专砍 AI 编程上下文浪费
编程
RTK(Rust Token Killer):7 万 Star 工具专砍 AI 编程上下文浪费
2026-07-12 09:07:27 +0800 CST
view 239
RTK(Rust Token Killer)是7万Star的AI编程辅助工具,作为命令行代理压缩git/pytest/cargo等100+命令输出,减少60%-90% token消耗,不换模型不搬平台,仅对经过它处理的命令输出生效,Apache-2.0协议。
AI编程
RTK
Token
上下文
Codex
Claude Code
Rust
开源
终端代理
2026大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——谁才是生产级部署的真正王者?
编程
2026大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——谁才是生产级部署的真正王者?
2026-06-23 08:22:26 +0800 CST
view 491
深度对比2026年四大主流大模型推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9,从核心架构、性能压测、成本分析到代码实战的完全指南。
vLLM
TensorRT-LLM
大模型推理
性能优化
DeepSpeed
TGI
一款开源桌面音视频转换工具,支持RTMP/HLS推流+屏幕录制+FLV拉流
编程
一款开源桌面音视频转换工具,支持RTMP/HLS推流+屏幕录制+FLV拉流
2026-04-21 08:46:51 +0800 CST
view 684
FFmpegFree:Vue3+TypeScript+Go+Wails跨平台桌面工具,支持音视频互转、RTMP/HLS推流、屏幕录制推流、FLV拉流播放、Office转PDF
开源
桌面应用
FFmpeg
音视频
Go
Vue3
Wails
流媒体
RTMP
微软给 Node.js 发了张 Windows「原生通行证」:动态 WinRT 语言投影深度拆解——从 .winmd 元数据到 Phi Silica 本地 AI 调用
编程
微软给 Node.js 发了张 Windows「原生通行证」:动态 WinRT 语言投影深度拆解——从 .winmd 元数据到 Phi Silica 本地 AI 调用
2026-07-30 12:44:31 +0800 CST
view 183
深度拆解微软 2026 年 7 月发布的 Node.js 动态 WinRT 语言投影:.winmd 元数据驱动、共享运行时架构、免编译调用 Windows 原生 API,附 Electron 原生通知与 Phi Silica 本地 AI 实战,及与 NodeRT/FFI/N-API 路线对比。
Node.js
WinRT
Electron
语言投影
Windows开发
Phi Silica
本地AI
N-API
TypeScript
微软
OmniRoute 深度拆解:一个端点接入 290+ 大模型——免费 AI 网关的工程架构与 2026 年 Token 经济学革命
编程
OmniRoute 深度拆解:一个端点接入 290+ 大模型——免费 AI 网关的工程架构与 2026 年 Token 经济学革命
2026-07-30 20:46:41 +0800 CST
view 156
OmniRoute:GitHub 33k Stars 开源 AI 网关,支持 290+ 提供商、500+ 模型,RTK+Caveman 双引擎 Token 压缩节省 15-95%,18 种智能路由策略,内置 104 MCP 工具,与 Claude Code/Cursor/Copilot 无缝集成,月均 ~15.3 亿免费 Token 配额
OmniRoute
AI网关
Token压缩
RTK
Caveman
AI编程
免费API
开源
多模型路由
MCP
9Router 深度解析:开源路由器如何让 AI 编程成本归零,RTK 压缩省 40% Token
编程
9Router 深度解析:开源路由器如何让 AI 编程成本归零,RTK 压缩省 40% Token
2026-05-12 02:44:46 +0800 CST
view 975
深度解析9Router:RTK Token Saver压缩工具输出省20-40% token、Caveman Mode省65%输出token、三层自动降级Subscription→Cheap→Free、40+供应商100+模型、格式转换9种API格式、多账户轮询+OAuth自动刷新
9Router,AI路由器,RTK,Token压缩,ClaudeCode,Cursor,多模型路由,自动降级,KiroAI,免费AI编程,CavemanMode,OpenAI兼容
Lucebox 深度解析:9.56L 铝合金盒子如何用 RTX 3090 + Ryzen AI MAX+ 395 的 128GB 统一内存 + DFlash 推测解码 + 自研 CUDA 内核让消费级硬件实现 4-6 倍云端推理加速——从硬件架构到开源推理引擎 lucebox-hub 的完整实战指南
编程
Lucebox 深度解析:9.56L 铝合金盒子如何用 RTX 3090 + Ryzen AI MAX+ 395 的 128GB 统一内存 + DFlash 推测解码 + 自研 CUDA 内核让消费级硬件实现 4-6 倍云端推理加速——从硬件架构到开源推理引擎 lucebox-hub 的完整实战指南
2026-07-07 00:44:30 +0800 CST
view 316
深度解析Lucebox本地AI推理盒子:9.56L铝合金机身塞入RTX 3090+Ryzen AI MAX+ 395的128GB统一内存,配合自研DFlash推测解码和CUDA内核优化,在消费级硬件上实现4-6倍推理加速。从硬件架构到开源引擎lucebox-hub的完整实战指南。
Lucebox
本地推理
AI Agent
推测解码
CUDA
RTX 3090
Ryzen AI MAX
开源
2026 LLM 推理框架深度拆解:当 vLLM 0.5 决定「让 PagedAttention 吞掉最后一块显存碎片」——从 PagedAttention 到 FlashAttention 3.0,四大推理框架如何用「算子融合 + 量化混合 + 动态批处理」重新定义大模型推理的终极形态
编程
2026 LLM 推理框架深度拆解:当 vLLM 0.5 决定「让 PagedAttention 吞掉最后一块显存碎片」——从 PagedAttention 到 FlashAttention 3.0,四大推理框架如何用「算子融合 + 量化混合 + 动态批处理」重新定义大模型推理的终极形态
2026-08-06 06:16:32 +0800 CST
view 39
深度拆解2026年四大主流LLM推理框架:vLLM 0.5 PagedAttention进化、TGI 2.0流式输出优化、TensorRT-LLM 1.8算子融合、DeepSpeed-MII 0.9自动优化,含完整架构分析、代码实战、性能基准测试与成本计算
LLM
vLLM
TensorRT-LLM
推理框架
PagedAttention
量化
GPU
H100
大模型
DeepSpeed
TGI
万字深度解析 WSL Containers:当 Windows 原生拥抱 Linux 容器——从 wslc.exe 到企业级 DevOps 的完整技术指南(2026)
编程
万字深度解析 WSL Containers:当 Windows 原生拥抱 Linux 容器——从 wslc.exe 到企业级 DevOps 的完整技术指南(2026)
2026-07-02 00:44:40 +0800 CST
view 527
深度解析微软2026年发布的WSL Containers功能:wslc.exe命令行工具、WSL Container API、virtiofs性能优化、CDI GPU直通,以及企业级DevOps应用实战指南。
WSL
Windows
Linux容器
Docker
开发者工具
DevOps
云原生
微软
virtiofs
GPU直通
WSLC 深度解析:微软如何用 wslc.exe + virtiofs + WSL Container API 让 Windows 11 原生跑 Linux 容器——从架构原理到告别 Docker Desktop 的完整实战指南
编程
WSLC 深度解析:微软如何用 wslc.exe + virtiofs + WSL Container API 让 Windows 11 原生跑 Linux 容器——从架构原理到告别 Docker Desktop 的完整实战指南
2026-07-07 08:44:11 +0800 CST
view 429
深度解析微软Build 2026发布的WSL Container(WSLC):wslc.exe命令行工具兼容Docker CLI、virtiofs实现2倍文件I/O性能提升、WSL Container API支持C/C++/C#原生调用Linux容器。从架构原理到Node.js/Python/多服务编排完整实战,含性能基准测试与Docker Desktop/Podman全面对比。
WSLC
WSL
Docker
容器
Windows 11
virtiofs
containerd
云原生
2026大模型推理框架年度横评:vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
编程
2026大模型推理框架年度横评:vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
2026-06-18 17:54:54 +0800 CST
view 762
深度横评2026年四大主流大模型推理框架,涵盖PagedAttention架构、ContinuousBatching、算子融合、FP8量化、NVMe卸载等核心技术,配实测数据与生产级选型指南
大模型
LLM
推理框架
vLLM
TensorRT-LLM
TGI
DeepSpeed
GPU推理
AI部署
NVIDIA
9Router:三层降级路由+RTK Token压缩,让AI编程订阅永不中断
编程
9Router:三层降级路由+RTK Token压缩,让AI编程订阅永不中断
2026-05-12 20:20:40 +0800 CST
view 648
9Router把40+AI供应商、100+模型统一调度,三层降级路由确保开发不中断,RTK Token压缩平均节省20%-40%,GitHub连续多日登上Trending。npm一行命令安装,支持Claude Code/Codex/Cursor等所有主流AI编程工具。
9Router
AI路由
Token压缩
Claude Code
Codex
RTK
WebTransport 深度实战:HTTP/3 + QUIC 如何重新定义浏览器实时通信——从协议原理到生产级落地全链路解析
编程
WebTransport 深度实战:HTTP/3 + QUIC 如何重新定义浏览器实时通信——从协议原理到生产级落地全链路解析
2026-05-05 18:07:38 +0800 CST
view 661
WebTransport 基于 HTTP/3 和 QUIC 协议,从根本上解决了 WebSocket 的队头阻塞问题。本文从协议原理到生产部署,深入解析这项酝酿14年的浏览器实时通信新技术。
WebTransport
HTTP/3
QUIC
实时通信
浏览器
WebSocket
Hertz 深度实战:字节跳动开源的高性能 Go HTTP 框架——从架构原理到生产级 RESTful API 完全指南(2026)
编程
Hertz 深度实战:字节跳动开源的高性能 Go HTTP 框架——从架构原理到生产级 RESTful API 完全指南(2026)
2026-06-05 12:38:37 +0800 CST
view 419
Hertz是字节跳动开源的高性能Go HTTP框架,基于自研Netpoll网络库,性能显著优于Gin。本文从架构原理到生产级实战,完整讲解Hertz的核心设计与工程化落地。
Go,Hertz,高性能,微服务,HTTP框架
Pion是WebRTCAPI的纯Golang实现,提升了WebRTC应用开发效率
编程
Pion是WebRTCAPI的纯Golang实现,提升了WebRTC应用开发效率
2024-11-19 08:26:56 +0800 CST
view 2482
Pion是WebRTCAPI的纯Golang实现,提升了WebRTC应用开发效率。它提供简单易用的API,支持多种创意项目,如视频同步观看、嵌入式设备摄像头传输、数据安全传输等。Pion实现了完整的PeerConnectionAPI,支持多种媒体格式和加密算法,适用于多个操作系统和架构。示例代码展示了如何使用Pion发送视频文件到浏览器。
WebRTC
Golang
视频处理
网络通信
实时应用
CyberVerse:开源实时视频通话数字人平台,一张照片让 AI 活过来
编程
CyberVerse:开源实时视频通话数字人平台,一张照片让 AI 活过来
2026-07-14 11:47:44 +0800 CST
view 195
CyberVerse是开源数字人Agent平台(GPL-3.0),上传一张照片生成实时视频通话数字人,WebRTC低延迟+语音打断+Agent工具调用/RAG/多Agent协作,支持GPT-4o/Qwen/DeepSeek+FlashHead/LiveAct,无需3D建模,RTX 4090即可运行。
数字人
CyberVerse
实时视频
AI Agent
WebRTC
开源
TTS
ASR
多模态
数字永生
从零手写一个 CRDT 协同编辑引擎:吃透 YATA 冲突消解、状态向量增量同步与墓碑 GC,造一个能离线合并的 Google Docs(附完整 TypeScript 实现)
编程
从零手写一个 CRDT 协同编辑引擎:吃透 YATA 冲突消解、状态向量增量同步与墓碑 GC,造一个能离线合并的 Google Docs(附完整 TypeScript 实现)
2026-08-01 12:48:29 +0800 CST
view 98
从第一性原理手写一个序列 CRDT 引擎:G-Counter/LWW/2P-Set 建立直觉,吃透 Logoot/RGA/YATA 三大流派取舍,实现 YATA integrate 冲突消解、Item 切分与合并、状态向量增量同步、varint 二进制编码、墓碑 GC 三策略、富文本零宽格式锚点、相对位置光标与选择性 Undo,附完整可运行 TypeScript 实现与十大生产踩坑清单。
CRDT
协同编辑
YATA
Yjs
分布式一致性
TypeScript
Local-First
富文本
Lamport时钟
最终一致性
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
4
5
6
7
8
...
77
下一页