程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
Google AI Edge Gallery:手机离线跑大模型时代来了,2.2万Star端侧AI神器
案例
Google AI Edge Gallery:手机离线跑大模型时代来了,2.2万Star端侧AI神器
2026-05-09 07:36:45 +0800 CST
view 1131
Google开源AI神器AI Edge Gallery斩获2.2万Star,支持iOS和Android手机离线运行Gemma 4等大模型,提供AI Chat、Ask Image、Audio Scribe、Agent Skills四大功能,消费级入口形态让普通用户轻松体验端侧AI
端侧AI
手机大模型
离线推理
Gemma 4
Google开源
iOS
Android
Google AI Edge Gallery 深度拆解:当手机成为大模型的「离线战场」——从 LiteRT 推理引擎到端侧 GenAI 的工程全貌(2026)
编程
Google AI Edge Gallery 深度拆解:当手机成为大模型的「离线战场」——从 LiteRT 推理引擎到端侧 GenAI 的工程全貌(2026)
2026-07-18 12:44:38 +0800 CST
view 234
深度拆解 Google AI Edge Gallery 开源项目:LiteRT 推理引擎架构、INT4 量化原理、多模态支持、模型转换实战、企业级落地场景,配完整 Kotlin 代码示例与性能优化指南。
Google AI Edge Gallery
LiteRT
端侧AI
大模型
Android
量化
多模态
离线推理
移动端部署
GenAI
ServiceWorker是一种在浏览器后台运行的独立线程,能够实现缓存、消息推送和后台更新等功能
编程
ServiceWorker是一种在浏览器后台运行的独立线程,能够实现缓存、消息推送和后台更新等功能
2024-11-18 14:06:55 +0800 CST
view 1618
ServiceWorker是一种在浏览器后台运行的独立线程,能够实现缓存、消息推送和后台更新等功能。它通过拦截请求并根据逻辑处理,提供了强大的离线访问能力。本文详细介绍了ServiceWorker的注册、生命周期、请求拦截、事件监听及缓存策略,并展示了如何实现离线访问功能。
Web技术
前端开发
离线应用
服务端能力
编程
13MB打包整个网站、去JS、跨平台,还能做成App,有点离谱了!
2026-06-25 19:08:09 +0800 CST
view 571
kage:用Go编写的命令行工具,把任意网站克隆成可离线浏览的本地镜像,同时把所有JavaScript彻底剔除。启动无头Chrome真实渲染后快照,删除所有JS和追踪代码,资源本地化+链接重写,支持打包为ZIM归档(Kiwix兼容)或自包含二进制(~13MB+站点体积),跨平台支持macOS/Windows/Linux,支持做成真正的桌面App。
kage
网站克隆
离线浏览
Go
开源
ZIM
Kiwix
去JavaScript
FFmpeg WebCLI:浏览器中运行完整 FFmpeg,离线处理视频,文件无需上传
编程
FFmpeg WebCLI:浏览器中运行完整 FFmpeg,离线处理视频,文件无需上传
2026-06-13 08:34:10 +0800 CST
view 522
FFmpeg WebCLI基于ffmpeg.wasm构建,通过WebAssembly将完整FFmpeg移植到浏览器中,支持30+操作(GIF/格式转换/压缩/剪辑/滤镜),PWA离线可用,文件全程本地处理无需上传。
FFmpeg
WebAssembly
WebCLI
视频处理
PWA
ffmpeg.wasm
离线工具
GIF制作
格式转换
bitchat 深度拆解:没有互联网的聊天应用如何日增 2300 星——BLE Mesh 泛洪、Noise 加密与离线优先通信栈全解
编程
bitchat 深度拆解:没有互联网的聊天应用如何日增 2300 星——BLE Mesh 泛洪、Noise 加密与离线优先通信栈全解
2026-07-31 07:14:36 +0800 CST
view 157
深度拆解 GitHub Trending 霸榜项目 bitchat:BLE 双角色连接拓扑、紧凑二进制协议与分片重组、TTL 管理泛洪、Noise XX 端到端加密、store-and-forward 暂存机制,附完整 Swift 代码实战、电量与吞吐优化、能力边界冷思考。
bitchat
BLE
蓝牙Mesh
去中心化
Noise协议
端到端加密
离线通信
开源
iOS
P2P
本地优先同步引擎深度拆解:从三种 CRDT 流派到 Eg-walker,为什么 2026 年的前端敢把数据库塞进浏览器
编程
本地优先同步引擎深度拆解:从三种 CRDT 流派到 Eg-walker,为什么 2026 年的前端敢把数据库塞进浏览器
2026-08-08 23:11:28 +0800 CST
view 14
深度拆解本地优先同步引擎:CRDT 半格数学基础与 HLC 时钟、OT/CRDT/服务端权威+IVM 三条路线选型、YATA 与可移动树算法、Eg-walker 如何把内存降一个数量级、Yjs/Loro/mutator+rebase 实战代码、五层架构模型、冷启动从 3 秒到 80ms 的优化清单与十条生产踩坑。
CRDT
Local-First
同步引擎
Yjs
Loro
Eg-walker
协同编辑
Zero
ElectricSQL
离线优先
Harper 深度解剖:Automattic 开源的 Rust 离线语法检查器——从 LSP 架构、规则引擎到毫秒级 Lint 的隐私优先工程真相
编程
Harper 深度解剖:Automattic 开源的 Rust 离线语法检查器——从 LSP 架构、规则引擎到毫秒级 Lint 的隐私优先工程真相
2026-07-26 03:45:28 +0800 CST
view 137
深度拆解Automattic开源的Rust离线语法检查器Harper:20+ crate分层架构、Hunspell风格词典与FST索引、Linter规则引擎、tree-sitter注释提取、LSP/WASM三端复用、毫秒级性能原理,附CLI/Neovim/harper.js实战与选型对比。
Harper
Rust
语法检查
LSP
Automattic
tree-sitter
WASM
离线优先
开发者工具
开源
Timeline Studio 深度实战:浏览器正在成为最强大的 AI 视频工作站——从 WebCodecs、WebGPU 到 ONNX 推理的全栈架构解析
编程
Timeline Studio 深度实战:浏览器正在成为最强大的 AI 视频工作站——从 WebCodecs、WebGPU 到 ONNX 推理的全栈架构解析
2026-07-22 13:20:35 +0800 CST
view 481
深度拆解 Timeline Studio(ai-video-editor):纯浏览器端 AI 视频编辑器。涵盖 WebCodecs、WebGPU、ONNX Runtime Web 推理引擎、Chrome Gemini Nano、多轨时间线架构、Codex Agent Skill,配完整代码示例与性能优化指南。
WebCodecs
WebGPU
ONNX
浏览器AI
视频编辑
Whisper
React
前端工程
ONNX Runtime
离线优先
Linux 内核二把手的断网猎手:Greg KH 的离线 AI 漏洞检测革命
编程
Linux 内核二把手的断网猎手:Greg KH 的离线 AI 漏洞检测革命
2026-05-30 16:14:24 +0800 CST
view 480
Linux 内核二把手 Greg KH 开发离线 AI 漏洞检测工具 gregkh_clanker_t1000,使用 AMD 锐龙 AI Max 在断网环境下运行大模型辅助内核补丁审查,已协助合并近 20 个补丁。
Linux
AI安全
模糊测试
AMD锐龙
GregKH
离线大模型
内核漏洞
统一内存
安全审计
2026 大模型推理框架深度对比:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9 性能与成本终极较量
编程
2026 大模型推理框架深度对比:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9 性能与成本终极较量
2026-07-23 08:13:30 +0800 CST
view 236
2026年四大主流大模型推理框架深度对比:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9。从核心技术优化、吞吐量延迟、算力成本、部署适配性四大维度开展极致测评,为企业技术选型提供精准参考。
vLLM
TensorRT-LLM
TGI
DeepSpeed-MII
大模型推理
PagedAttention
FlashAttention
量化推理
GPU推理优化
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
编程
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
2026-08-03 09:43:58 +0800 CST
view 116
深度拆解vLLM V1引擎四大核心架构:PagedAttention V2融合块表与前缀树缓存、分离式推理Prefill/Decode架构、KV Connector标准化接口、LMCache三层KV Cache管理,附完整部署配置与性能基准测试
vLLM
PagedAttention
LMCache
分离式推理
大模型推理
KV Cache
推理引擎
LLM Serving
GPU优化
开源
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
编程
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
2026-06-15 21:20:49 +0800 CST
view 306
深入解析小米MiMo UltraSpeed如何通过SWA架构在通用GPU上突破1000 tokens/s推理速度,从O(n²)困境到极致跨越的完整技术指南。
SWA
Sliding Window Attention
LLM推理
小米MiMo
推理优化
Transformer
PagedAttention
量化推理
端侧AI
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
2026-06-10 10:17:56 +0800 CST
view 515
深度解析 vLLM 的核心架构 PagedAttention 和 Continuous Batching,从内存管理原理到生产级分布式部署的完全指南。
vLLM
LLM推理
PagedAttention
GPU优化
大模型部署
AI推理
Cloudflare 统一推理层深度实战:当一个API连通12家供应商70+模型——从AI Gateway到边缘智能体、从自动故障转移到多模态推理的生产级完全指南(2026)
编程
Cloudflare 统一推理层深度实战:当一个API连通12家供应商70+模型——从AI Gateway到边缘智能体、从自动故障转移到多模态推理的生产级完全指南(2026)
2026-06-22 04:23:24 +0800 CST
view 477
2026年4月Cloudflare发布统一推理层,一个API连通12家供应商70+模型。本文深度解析AI Gateway架构、边缘推理优化、多模态支持、智能体集成,附带完整代码示例,打造生产级AI应用。
Cloudflare
AI推理
边缘计算
AI Gateway
统一推理层
AI基础设施
OpenAI Jalapeño 深度解析:9个月流片的AI推理芯片如何把成本砍掉一半,英伟达GPU帝国的裂痕
编程
OpenAI Jalapeño 深度解析:9个月流片的AI推理芯片如何把成本砍掉一半,英伟达GPU帝国的裂痕
2026-06-29 21:14:35 +0800 CST
view 354
深度解析OpenAI首款自研AI推理芯片Jalapeño:9个月流片、推理成本降低50%、每瓦性能超越英伟达GPU。从架构设计、内存优化、数据流优化到产业链合作,全方位解读这款芯片如何重塑AI推理市场格局。
OpenAI
Jalapeño
AI芯片
ASIC
推理芯片
英伟达
GPU
博通
Broadcom
LLM推理
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
案例
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
2026-05-10 08:40:22 +0800 CST
view 811
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎ds4.c,C+Metal从头编写,Mac Studio M3 Ultra上预填充468 token/s。关键优化:非对称量化(MoE专家层2-bit)、KV缓存搬硬盘、内置OpenAI/Anthropic双API。128GB Mac可跑,专为coding agent优化。
DeepSeek
AI推理
Mac
Redis
antirez
Metal
本地推理
MoE
GGUF
C语言
Apple Silicon
Claude Code
OpenAI API
Anthropic API
DiffusionGemma 深度实战:当 Google 用「扩散」颠覆自回归——从离散文本扩散原理到 MoE 架构、本地推理加速与生产级部署的完全指南(2026)
编程
DiffusionGemma 深度实战:当 Google 用「扩散」颠覆自回归——从离散文本扩散原理到 MoE 架构、本地推理加速与生产级部署的完全指南(2026)
2026-06-16 18:52:52 +0800 CST
view 547
Google DeepMind联合NVIDIA发布DiffusionGemma——基于离散文本扩散的实验性开源模型。本文深入解读26B MoE架构、双向注意力机制、本地推理4倍加速原理,附完整代码示例和部署实战。
Google
DiffusionGemma
扩散模型
MoE
开源LLM
本地推理
AI推理加速
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
编程
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
2026-08-04 19:22:29 +0800 CST
view 83
深度拆解SGLang 27K Star开源LLM推理框架:RadixAttention基数树前缀缓存实现3-8倍加速、自研FlashInfer CUDA Kernel、Prefill-Decode分离架构、GB300 NVL72上25倍性能飞跃、DFlash投机采样、多LoRA热切换,附完整部署与调优指南
SGLang
LLM推理
RadixAttention
FlashInfer
GPU加速
大模型部署
推理引擎
PagedAttention
PD分离
投机采样
CUDA
开源
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
2026-08-04 22:46:33 +0800 CST
view 81
深度拆解Redis创始人antirez打造的DwarfStar 4本地推理引擎:专用MoE推理栈、非对称2-Bit量化、磁盘KV缓存、SSD流式加载、多机流水线并行,在128GB MacBook上跑出26 tok/s的284B模型推理
DwarfStar
Redis
antirez
DeepSeek
MoE
本地推理
LLM
推理引擎
2-Bit量化
KV缓存
Apple Metal
CUDA
开源
DFlash 深度实战:块扩散模型如何实现 6 倍无损加速——从自回归瓶颈到并行生成的范式跃迁
编程
DFlash 深度实战:块扩散模型如何实现 6 倍无损加速——从自回归瓶颈到并行生成的范式跃迁
2026-05-23 11:16:44 +0800 CST
view 593
深度解析UC San Diego Z Lab提出的DFlash(Block Diffusion for Flash Speculative Decoding),详解块扩散草稿模型如何突破自回归瓶颈,在Qwen3-8B上实现6倍无损加速的架构原理、训练方法与生产级实战代码
LLM推理,投机解码,块扩散模型,大模型加速,DFlash,Speculative Decoding,UC San Diego,PyTorch,深度学习,AI推理优化
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
编程
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
2026-07-24 06:14:45 +0800 CST
view 271
深度对比vLLM与SGLang两大LLM推理引擎:PagedAttention vs RadixAttention,Continuous Batching原理,吞吐与延迟实战选型指南
vLLM
SGLang
LLM推理
PagedAttention
RadixAttention
Continuous Batching
GPU优化
推理引擎
vLLM 0.5 深度拆解:当 PagedAttention 重塑 LLM 推理内存——从 OS 分页思想到 MoE 分布式推理的工程全貌(2026)
编程
vLLM 0.5 深度拆解:当 PagedAttention 重塑 LLM 推理内存——从 OS 分页思想到 MoE 分布式推理的工程全貌(2026)
2026-07-18 13:17:37 +0800 CST
view 188
深度拆解 vLLM 0.5 的 PagedAttention 核心原理、连续批处理架构、MoE 推理优化、分布式部署策略,以及 2026 年四大推理框架生产级性能横评。
vLLM
PagedAttention
LLM推理
ContinuousBatching
MoE
FusedMoE
量化
分布式推理
DSpark深度解析:DeepSeek联合北大开源的推测解码框架——半自回归生成+置信度调度如何让大模型推理速度飙升85%
编程
DSpark深度解析:DeepSeek联合北大开源的推测解码框架——半自回归生成+置信度调度如何让大模型推理速度飙升85%
2026-07-06 07:43:51 +0800 CST
view 487
深度解析DeepSeek联合北京大学开源的DSpark推测解码推理加速框架:半自回归生成架构解决后缀衰减、置信度调度验证机制避免算力浪费、单用户生成速度提升60%-85%、吞吐量最高暴涨661%。含完整代码实战与性能基准测试。
DSpark
DeepSeek
推测解码
Speculative Decoding
推理加速
半自回归
置信度调度
大模型推理
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
...
10
下一页