程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
Headroom 深度实战:当 AI Agent 的上下文压缩层省下 95% Token——从 ContentRouter 智能路由到 CCR 可逆压缩、从 Claude Code 到 MCP 的生产级完全指南(2026)
编程
Headroom 深度实战:当 AI Agent 的上下文压缩层省下 95% Token——从 ContentRouter 智能路由到 CCR 可逆压缩、从 Claude Code 到 MCP 的生产级完全指南(2026)
2026-06-20 06:24:34
view 775
Headroom 是 AI Agent 的上下文压缩层,通过 ContentRouter、SmartCrusher、CodeCompressor、Kompress-base 与 CCR 可逆压缩,在 LLM 接收前削减 60–95% token。本文从架构、算法、代码实战到生产落地,提供完整指南。
Headroom
AI Agent
Context Compression
MCP
Token Optimization
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
编程
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
2026-07-30 21:49:19
view 222
深度拆解 LLM 推理服务的七层优化栈:PagedAttention 分页显存与写时复制、连续批处理消灭队头阻塞、前缀缓存命中率实操、Chunked Prefill 与 PD 分离决策、KV Cache 分层复用的拉取/重算临界点、投机解码加速比数学与失效场景、量化与并行选型。附大量可运行代码、压测骨架、调优顺序与七个常见误区。
LLM推理
vLLM
SGLang
PagedAttention
PD分离
KV Cache
前缀缓存
投机解码
Chunked Prefill
性能优化
微信小程序开发框架深度解析:50K Star资源清单背后的9年生态演进
编程
微信小程序开发框架深度解析:50K Star资源清单背后的9年生态演进
2026-05-11 15:35:58
view 998
从50.9K Star的awesome-wechat-weapp资源清单出发,深度解析微信小程序9年生态演进:uni-app/Taro/MPX三足鼎立,mpvue/WePY/chameleon/Remax已死,2026年选型指南
微信小程序
uni-app
Taro
MPX
跨端开发
WePY
mpvue
鸿蒙
一款开源桌面音视频转换工具,支持RTMP/HLS推流+屏幕录制+FLV拉流
编程
一款开源桌面音视频转换工具,支持RTMP/HLS推流+屏幕录制+FLV拉流
2026-04-21 08:46:51
view 770
FFmpegFree:Vue3+TypeScript+Go+Wails跨平台桌面工具,支持音视频互转、RTMP/HLS推流、屏幕录制推流、FLV拉流播放、Office转PDF
开源
桌面应用
FFmpeg
音视频
Go
Vue3
Wails
流媒体
RTMP
FFmpeg WebCLI:浏览器中运行完整 FFmpeg,离线处理视频,文件无需上传
编程
FFmpeg WebCLI:浏览器中运行完整 FFmpeg,离线处理视频,文件无需上传
2026-06-13 08:34:10
view 643
FFmpeg WebCLI基于ffmpeg.wasm构建,通过WebAssembly将完整FFmpeg移植到浏览器中,支持30+操作(GIF/格式转换/压缩/剪辑/滤镜),PWA离线可用,文件全程本地处理无需上传。
FFmpeg
WebAssembly
WebCLI
视频处理
PWA
ffmpeg.wasm
离线工具
GIF制作
格式转换
2026 大模型推理框架选型实战:从 vLLM、TGI 到 TensorRT-LLM 的全链路架构拆解与性能防线
编程
2026 大模型推理框架选型实战:从 vLLM、TGI 到 TensorRT-LLM 的全链路架构拆解与性能防线
2026-08-12 11:14:56
view 217
深度拆解 2026 年四大主流推理框架 vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9 的核心技术、性能对比与选型指南,涵盖 PagedAttention、Continuous Batching、量化优化、分布式推理与生产踩坑清单。
vLLM
TensorRT-LLM
TGI
DeepSpeed-MII
大模型推理
KV Cache
PagedAttention
推理优化
量化
分布式推理
Loop Engineering 深度解析:2026 年 AI 工程范式从 Prompt 到 Loop 的四阶跃迁——Boris Cherny 和 Peter Steinberger 联手定义的 Agent 循环工程实战指南
编程
Loop Engineering 深度解析:2026 年 AI 工程范式从 Prompt 到 Loop 的四阶跃迁——Boris Cherny 和 Peter Steinberger 联手定义的 Agent 循环工程实战指南
2026-07-07 08:13:00
view 475
深度解析2026年AI工程范式从Prompt到Loop的四阶跃迁:Loop Engineering循环工程的核心概念、六块积木架构、47次实验验证数据、完整生产级实战。涵盖自动化调度、Git Worktree并行、Skill持久化、MCP连接器、子Agent审查、记忆系统,含完整代码示例与未来展望。
Loop Engineering
循环工程
AI Agent
Prompt Engineering
Harness Engineering
Claude Code
OpenClaw
多Agent编排
AI编程
工程范式
Rust core::simd 跑进 GPU warp:VectorWare 把 SIMT 还原成 SIMD 的那一刀——从 lane 映射到类型化 Warp IR 的全链路拆解
编程
Rust core::simd 跑进 GPU warp:VectorWare 把 SIMT 还原成 SIMD 的那一刀——从 lane 映射到类型化 Warp IR 的全链路拆解
2026-08-11 05:20:02
view 141
深度拆解 VectorWare 让 Rust portable SIMD 跑上 GPU:为何 SIMT 本质就是 SIMD、warp-as-thread 与 lane-as-simd-lane 的双层映射、四类算子到 shfl.sync/vote.sync/redux.sync 的下降路径、类型化 Warp IR 如何用 const generic 杜绝非法程序、strip mining 与掩码加载实战、寄存器压力与横向算子同步点的性能陷阱,含十四条踩坑清单。
Rust
core::simd
GPU编程
SIMT
CUDA
PTX
warp
portable SIMD
rust-gpu
异构计算
向量化
VectorWare
性能优化
编译器
Pumpkin 深度拆解:用 Rust 从零重写 Minecraft 服务端,CPU 省 20 倍、内存省 100 倍,这群人凭什么叫板运行了十五年的 Java 原版
编程
Pumpkin 深度拆解:用 Rust 从零重写 Minecraft 服务端,CPU 省 20 倍、内存省 100 倍,这群人凭什么叫板运行了十五年的 Java 原版
2026-07-28 07:47:24
view 307
深度拆解 Rust 开源项目 Pumpkin:从零重写 Minecraft 服务端,CPU 省 20 倍、内存省 100 倍的架构原理,多线程 tick、调色板存储、WASM 组件插件与 BotMark 压测实战,附部署指南与冷静的短板分析。
Pumpkin
Rust
Minecraft
游戏服务端
多线程
WASM
tokio
性能优化
开源
插件系统
FFmpeg 9.0 "Lei" 深度拆解:从 Vulkan 硬件革命到 AI 实时滤镜——2026 年最值得关注的音视频开源里程碑
编程
FFmpeg 9.0 "Lei" 深度拆解:从 Vulkan 硬件革命到 AI 实时滤镜——2026 年最值得关注的音视频开源里程碑
2026-08-13 16:18:44
view 210
FFmpeg 9.0 "Lei"正式发布,纪念中国音视频开发者雷霄骅。深度拆解Vulkan APV编码器、OpenAPV视觉无损编码器、AI滤镜GPU原生执行、ONNX Runtime DNN后端、ProRes RAW解码、HDR全链路,配完整代码示例与15条生产踩坑清单。
FFmpeg
Vulkan
OpenAPV
AI滤镜
GPU加速
音视频
ONNX Runtime
HDR
ProRes RAW
FFmpeg 9.0「Lei」深度拆解:从二十年架构重写到 Vulkan 全矩阵,一个多媒体框架的自我革命
编程
FFmpeg 9.0「Lei」深度拆解:从二十年架构重写到 Vulkan 全矩阵,一个多媒体框架的自我革命
2026-08-09 11:17:02
view 209
深度拆解 FFmpeg 9.0 Lei:swscale二十年架构重写、Vulkan GPU加速全矩阵、ONNX Runtime AI推理、Dolby Vision专业管线、ABI破坏性升级与迁移指南,配完整代码示例
FFmpeg
音视频
多媒体
Vulkan
GPU加速
编解码
开源
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
编程
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
2026-07-24 07:44:31
view 288
KTransformers 通过 CPU/GPU 异构计算,让一块 RTX 5090(32GB 显存)能跑起 100B+ MoE 大模型,且无需量化压缩,保持原精度 FP16。实测比 llama.cpp Q8_0 快 4.5 倍。本文深度拆解其专家细粒度卸载、异步预取、DMA 优化等核心技术,以及实战部署指南。
KTransformers
LLM推理
MoE
异构计算
DeepSeek
SGLang
CPU Offload
本地部署
GPU优化
WebGPU + WebAssembly 2026:浏览器高性能计算的黄金组合全解析
编程
WebGPU + WebAssembly 2026:浏览器高性能计算的黄金组合全解析
2026-05-09 08:36:41
view 1015
深入解析2026年Chrome正式发布的WebGPU实现与WebAssembly的协同计算架构,从底层原理到代码实战,涵盖WGSL着色器、SIMD优化与性能调优
WebGPU
WebAssembly
WASM
GPU
WGSL
Rust 啃下 GPU 计算:当 Rust 写的 CUDA 内核在 H100 上追平甚至反超 C++——从所有权模型、cuda-oxide 编译器到 CubeCL 向量化的全链路实战
编程
Rust 啃下 GPU 计算:当 Rust 写的 CUDA 内核在 H100 上追平甚至反超 C++——从所有权模型、cuda-oxide 编译器到 CubeCL 向量化的全链路实战
2026-08-19 03:13:18
view 160
深度拆解 Rust 进入 GPU 计算的拐点:从所有权内存安全、cuda-oxide 官方编译器、CubeCL 跨后端向量化,到 H100 上追平 CUDA 的基准解读与内核调优实战。
Rust
GPU计算
CUDA
CubeCL
cuda-oxide
rust-gpu
并行计算
内存安全
OpenVINO 2026.3 深度拆解:从推理工具到「让大模型在 16GB 内存跑起来」的工程实践完全指南
编程
OpenVINO 2026.3 深度拆解:从推理工具到「让大模型在 16GB 内存跑起来」的工程实践完全指南
2026-08-13 08:43:23
view 215
深度拆解OpenVINO 2026.3:磁盘卸载让300亿MoE模型在16GB内存运行、懒加载权重降低内存峰值、HuggingFace Transformers 5.5兼容、GenAI新流水线、EAGLE-3推测解码扩展,配完整Python/C++代码示例与15条生产踩坑清单。
OpenVINO
AI推理
Intel
深度学习
模型部署
CPU推理
GPU推理
MoE
磁盘卸载
大模型
从140GB到4GB:AirLLM无量化层间推理原理深度剖析与生产级部署实战(2026)
编程
从140GB到4GB:AirLLM无量化层间推理原理深度剖析与生产级部署实战(2026)
2026-06-22 19:28:19
view 558
深入解析 AirLLM 的无量化层间 Offloading 技术原理,探讨如何通过 CPU-GPU 混合推理在 4GB 显存上运行 70B 大模型,附完整代码实战与生产部署指南。
LLM推理
GPU优化
CPU Offload
层间调度
AirLLM
PyTorch
Linux 7.2 内核深度拆解:当内核决定「让 slab 分配器学会偷懒」——从延迟构建 freelist 到外显卡 80% 性能飞跃,一个 AI 参与贡献的史上最大 rc6 如何用「内存懒加载 + 多显卡感知」重新定义操作系统内核的终极形态
编程
Linux 7.2 内核深度拆解:当内核决定「让 slab 分配器学会偷懒」——从延迟构建 freelist 到外显卡 80% 性能飞跃,一个 AI 参与贡献的史上最大 rc6 如何用「内存懒加载 + 多显卡感知」重新定义操作系统内核的终极形态
2026-08-05 22:47:05
view 858
深度拆解Linux 7.2内核:slab分配器延迟构建freelist实现70%性能提升、linux-dmabuf v6外显卡80%帧率飞跃、Intel核显12%提升、60%驱动更新、AI首次大规模参与内核开发
Linux
内核
slab
内存管理
性能优化
GPU
Wayland
Intel
AMD
驱动更新
AI开发
eGPU
linux-dmabuf
Panther Lake
操作系统
WebGPU + WebAssembly 协同革命:从浏览器性能边界到 GPU 算力完全释放的 2026 实战指南
编程
WebGPU + WebAssembly 协同革命:从浏览器性能边界到 GPU 算力完全释放的 2026 实战指南
2026-08-14 13:47:23
view 147
深度拆解 WebGPU 与 WebAssembly 协同优化:从 CPU/GPU 任务分工到共享内存模型,从代码实战到 15 条生产级最佳实践,解锁浏览器高性能计算新边界。
WebGPU
WebAssembly
GPU计算
浏览器性能
SIMD
多线程
Rust
前端优化
WebGPU 深度实战:当浏览器成为 GPU 计算平台——从计算着色器、异步管线到跨平台性能优化的工程全貌(2026)
编程
WebGPU 深度实战:当浏览器成为 GPU 计算平台——从计算着色器、异步管线到跨平台性能优化的工程全貌(2026)
2026-07-20 00:16:12
view 335
2026年WebGPU成为W3C推荐标准,浏览器正式成为GPU计算平台。本文深度拆解:从架构演进、计算着色器实战、性能优化到跨平台兼容与生产级渲染器架构。
WebGPU
GPU计算
计算着色器
性能优化
跨平台
图形编程
前端技术
Kueue + HAMi 深度剖析:当 Job 队列遇见 vGPU——AI 集群资源配额管理的完整解决方案
编程
Kueue + HAMi 深度剖析:当 Job 队列遇见 vGPU——AI 集群资源配额管理的完整解决方案
2026-07-25 14:44:33
view 251
深入解析 Kueue 与 HAMi 协同方案:Kueue 做配额准入与多租户管理,HAMi 做 vGPU 虚拟化,从架构原理到生产部署的完整指南。
Kueue
HAMi
vGPU
Kubernetes
GPU调度
AI集群
Kubernetes Operator
资源配额
Kubernetes 异构计算统一调度平台 HAMi 深度解析:从 GPU 虚拟化到 AI 基础设施范式革命
编程
Kubernetes 异构计算统一调度平台 HAMi 深度解析:从 GPU 虚拟化到 AI 基础设施范式革命
2026-08-08 23:45:50
view 251
深度解析 CNCF 沙盒项目 HAMi:四层架构设计、NVIDIA vGPU 虚拟化与国产芯片统一调度、代码实战与生产踩坑清单,从调度平台到 AI 基础设施操作系统。
HAMi
Kubernetes
GPU虚拟化
CNCF
异构计算
云原生
AI基础设施
GPU调度
昇腾
昆仑芯
WebGPU + WGSL:浏览器通用计算时代全解析——从渲染管线到 AI 推理的架构革命
编程
WebGPU + WGSL:浏览器通用计算时代全解析——从渲染管线到 AI 推理的架构革命
2026-07-31 15:51:04
view 201
深度解析 WebGPU 架构与 WGSL 语言,涵盖粒子物理仿真、神经网络推理等实战案例,探讨浏览器通用计算的技术变革。
WebGPU
WGSL
浏览器图形
GPU计算
前端性能
AI推理
并行计算
Intel OpenVINO 2026.3 深度拆解:让 300 亿参数 MoE 模型跑进 16GB 内存的工程实践
编程
Intel OpenVINO 2026.3 深度拆解:让 300 亿参数 MoE 模型跑进 16GB 内存的工程实践
2026-08-09 03:16:31
view 224
深度拆解 Intel OpenVINO 2026.3:MoE 模型磁盘卸载(16GB 运行 30B MoE)、FP8 量化、NNCF、持续批处理、至强 6+ AMX 加速、Omni 多模态流水线等核心新特性,含可运行代码与十大生产踩坑清单。
OpenVINO
Intel
AI推理
模型部署
LLM
MoE
FP8量化
持续批处理
异构计算
NPU
CPU优化
llama.cpp 架构深度拆解:从 GGML 到 GGUF、量化内核到跨平台推理栈,一文吃透本地 LLM 推理工程化
编程
llama.cpp 架构深度拆解:从 GGML 到 GGUF、量化内核到跨平台推理栈,一文吃透本地 LLM 推理工程化
2026-08-01 08:18:35
view 357
深度拆解 llama.cpp 全栈架构:从 GGML 到 GGUF 格式演进、K-Quant 量化内核原理、ggml 张量计算图层、libllama 推理逻辑层、10+ 硬件后端调度,以及生产调优实战与踩坑清单。
llama.cpp
GGUF
GGML
量化
本地LLM
CPU推理
GPU加速
跨平台
K-Quant
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
python
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
上一页
1
...
6
7
8
9
10
...
119
下一页