程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
硬件加速 相关技术文章
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
WebLLM:用 WebGPU 把 LLM 跑进浏览器,以及几个容易被忽略的实现细节
编程
WebLLM:用 WebGPU 把 LLM 跑进浏览器,以及几个容易被忽略的实现细节
2026-10-07 00:04:02
WebLLM 是浏览器内 LLM 推理引擎,靠 WebGPU 在本地跑 Llama/Qwen/Mistral 等模型,兼容 OpenAI API。这篇按 README 梳理接入流程与几处易踩的工程细节:四种缓存后端的选择与 opfs 报错、Service Worker 引擎的 handler 顶层实例化与心跳保活、SRI 完整性校验、自定义模型字段,以及从源码编译 TVMjs 时为什么不能用最新 emcc。
Browser
AI
浏览器AI
WebLLM
WebGPU
浏览器侧推理
硬件加速
硬件
千问
FFmpeg 9.0「Lei」深度拆解:当音视频框架决定把滤镜链整个搬进 GPU——Vulkan 统一计算层、SMPTE 2094-50 元数据透传与 ONNX Runtime DNN 后端的三条暗线
编程
FFmpeg 9.0「Lei」深度拆解:当音视频框架决定把滤镜链整个搬进 GPU——Vulkan 统一计算层、SMPTE 2094-50 元数据透传与 ONNX Runtime DNN 后端的三条暗线
2026-08-09 04:19:53
深度拆解 FFmpeg 9.0「Lei」:媒体只报道了动画WebP和代号故事,但5.2万行代码背后是三条架构主线——Vulkan compute 统一硬件加速层、ST 2094-50 元数据全链路透传、ONNX Runtime GPU 后端让AI推理进入滤镜图。含滤镜链PCIe往返三层验证、元数据diff脚本、七条调优规律与十条踩坑清单。
FFmpeg
Vulkan
音视频
硬件加速
HDR
ONNX Runtime
滤镜链
CUDA
编解码
性能优化
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
python
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调