程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
当 Apple Silicon 遇上视觉大模型:MLX-VLM 如何把「本地多模态推理」变成现实
编程
当 Apple Silicon 遇上视觉大模型:MLX-VLM 如何把「本地多模态推理」变成现实
2026-04-11 10:24:48 +0800 CST
view 954
深度解析 Apple Silicon 上的视觉语言模型推理引擎 MLX-VLM,涵盖架构设计、模型支持、性能优化与实战部署。
Apple Silicon
MLX
视觉语言模型
VLM
Mac本地AI
多模态推理
oMLX 深度实战:当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南(2026)
编程
oMLX 深度实战:当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南(2026)
2026-06-22 17:24:05 +0800 CST
view 647
oMLX 是专为 Apple Silicon 优化的 LLM 推理服务器,通过连续批处理、分层 KV Cache、MLX 后端加速和 macOS 菜单栏管理,让本地 AI 推理从可用走向实用。
LLM
Apple Silicon
MLX
本地推理
MCP
Agent-fox深度解析:AI接管自动化测试的革命——ReAct模式下的自愈测试框架
编程
Agent-fox深度解析:AI接管自动化测试的革命——ReAct模式下的自愈测试框架
2026-05-17 01:50:54 +0800 CST
view 711
Agent-fox是基于AI Agent的自动化测试框架,让测试从编写代码变成描述意图。核心特性包括:自然语言解析引擎(NL Parser)、多策略融合元素定位(Smart Locator)、数据准备智能体(Data Preparation Agent)和自愈恢复机制。
Agent-fox,AI测试,自动化测试,Selenium,Playwright,ReAct,LLM,测试框架
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
编程
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
2026-07-24 17:17:27 +0800 CST
view 267
深度解析 omlx:专为 Mac 优化的本地 LLM 推理服务器,通过连续批处理、分层 KV Cache、SSD 缓存和菜单栏管理,实现便捷与控制兼得的推理体验。涵盖技术架构、性能调优、RAG 实战和最佳实践。
LLM
Mac
Apple Silicon
推理优化
本地部署
omlx
colibrì 深度拆解:当1300行纯C在25GB笔记本上跑起744B大模型——纯C运行时、MoE稀疏激活与智谱GLM-5.2的工程奇迹(2026)
编程
colibrì 深度拆解:当1300行纯C在25GB笔记本上跑起744B大模型——纯C运行时、MoE稀疏激活与智谱GLM-5.2的工程奇迹(2026)
2026-07-19 09:14:11 +0800 CST
view 1066
纯C语言实现的大模型推理引擎,仅用1300行代码在25GB内存笔记本上运行744B参数的GLM-5.2 MoE模型,含完整代码示例与技术解析
C语言
GLM-5.2
MoE
大模型推理
量化
AVX2
MLA注意力
推测解码
Apple Silicon
Browser-Use 深度解析:当AI学会看网页——79k Stars背后的浏览器自动化革命
编程
Browser-Use 深度解析:当AI学会看网页——79k Stars背后的浏览器自动化革命
2026-04-14 06:26:31 +0800 CST
view 1289
Browser-Use是GitHub 79k+ Stars的AI浏览器自动化框架,通过LLM驱动实现自然语言控制浏览器。本文深度解析其架构设计、双模态页面理解、多模型集成机制,并附完整代码实战示例。
Browser-Use
浏览器自动化
AI Agent
Playwright
LLM驱动
Browser-Use 深度拆解:当 AI 学会「看懂网页」——可访问性树、Playwright 内核与感知-决策-执行闭环如何重写浏览器自动化的心智模型
编程
Browser-Use 深度拆解:当 AI 学会「看懂网页」——可访问性树、Playwright 内核与感知-决策-执行闭环如何重写浏览器自动化的心智模型
2026-07-16 06:44:38 +0800 CST
view 577
从工程师视角深度拆解 Browser-Use:Playwright/CDP 内核、可访问性树感知、感知-决策-执行闭环、动作空间与系统提示词设计,并手写一个迷你 browser agent,配 Token 优化与自愈实战。
Browser-Use
AI浏览器自动化
Playwright
可访问性树
AI Agent
RPA
LLM
Pascal Editor 深度实战:当 WebGPU 遇见 3D 建筑可视化——从浏览器零安装到生产级架构的完全指南(2026)
编程
Pascal Editor 深度实战:当 WebGPU 遇见 3D 建筑可视化——从浏览器零安装到生产级架构的完全指南(2026)
2026-06-16 15:34:34 +0800 CST
view 378
Pascal Editor 是一个基于 WebGPU 和 React Three Fiber 构建的开源 3D 建筑编辑器,运行在浏览器中无需安装。本文深度解析其 Monorepo 架构、场景状态管理、WebGPU 渲染管线、CSG 布尔运算和性能优化策略。
WebGPU
Three.js
React Three Fiber
Pascal Editor
3D编辑器
Turborepo
Bun
Monorepo
CSG
前端工程化
DeepGEMM 深度解析:DeepSeek 开源的 FP8 GEMM 内核如何重塑 AI 推理性能边界
编程
DeepGEMM 深度解析:DeepSeek 开源的 FP8 GEMM 内核如何重塑 AI 推理性能边界
2026-04-21 05:16:09 +0800 CST
view 1106
深入剖析 DeepSeek 开源的 DeepGEMM 库:从 FP8 精度革命到 1550 TFLOPS 性能突破,揭秘现代 AI 推理基础设施的底层优化技术
DeepGEMM
FP8
DeepSeek
CUDA
AI推理
GPU优化
GEMM
TensorCore
万字深度解析 DeepSeek V4:当 1.6 万亿参数遇见 DSA 稀疏注意力——开源大模型如何让 API 账单暴降 95%(2026)
编程
万字深度解析 DeepSeek V4:当 1.6 万亿参数遇见 DSA 稀疏注意力——开源大模型如何让 API 账单暴降 95%(2026)
2026-07-01 07:13:58 +0800 CST
view 427
2026年4月DeepSeek V4发布,1.6万亿参数+百万上下文+SWE-Bench 80.6%,API成本暴降95%。深度解析DSA稀疏注意力、MoE架构、生产级部署实战。
DeepSeek V4
DSA 稀疏注意力
MoE 架构
百万上下文
开源大模型
API 成本优化
大模型部署
Agent 能力
SWE-Bench
DeepSeek
DeepSeek DeepGEMM 2026年4月重磅更新:Mega MoE融合算子、FP4精度与极致性能优化
编程
DeepSeek DeepGEMM 2026年4月重磅更新:Mega MoE融合算子、FP4精度与极致性能优化
2026-04-23 08:41:45 +0800 CST
view 801
深度解析DeepSeek DeepGEMM 2026年4月重大更新:Mega MoE融合算子(dispatch+Linear+SwiGLU+Combine五合一,NVLink通信与Tensor Core计算重叠)、FP8xFP4 GEMM、FP4 Indexer、PDL调度优化与JIT加速,附完整代码实战。
DeepGEMM
DeepSeek
GPU优化
CUDA
FP8
FP4
MoE
AI Infra
高性能计算
NVIDIA
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
编程
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
2026-07-10 17:44:16 +0800 CST
view 430
深度对比2026年四大主流LLM推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9,涵盖PagedAttention、FP8量化、ZeRO-3、连续批处理等核心技术原理,配生产级代码示例与实测性能数据。
LLM
vLLM
TensorRT-LLM
TGI
DeepSpeed
推理优化
量化
AI部署
2026 LLM 推理框架深度拆解:当 vLLM 0.5 决定「让 PagedAttention 吞掉最后一块显存碎片」——从 PagedAttention 到 FlashAttention 3.0,四大推理框架如何用「算子融合 + 量化混合 + 动态批处理」重新定义大模型推理的终极形态
编程
2026 LLM 推理框架深度拆解:当 vLLM 0.5 决定「让 PagedAttention 吞掉最后一块显存碎片」——从 PagedAttention 到 FlashAttention 3.0,四大推理框架如何用「算子融合 + 量化混合 + 动态批处理」重新定义大模型推理的终极形态
2026-08-06 06:16:32 +0800 CST
view 162
深度拆解2026年四大主流LLM推理框架:vLLM 0.5 PagedAttention进化、TGI 2.0流式输出优化、TensorRT-LLM 1.8算子融合、DeepSpeed-MII 0.9自动优化,含完整架构分析、代码实战、性能基准测试与成本计算
LLM
vLLM
TensorRT-LLM
推理框架
PagedAttention
量化
GPU
H100
大模型
DeepSpeed
TGI
2026大模型推理框架年度横评:vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
编程
2026大模型推理框架年度横评:vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
2026-06-18 17:54:54 +0800 CST
view 861
深度横评2026年四大主流大模型推理框架,涵盖PagedAttention架构、ContinuousBatching、算子融合、FP8量化、NVMe卸载等核心技术,配实测数据与生产级选型指南
大模型
LLM
推理框架
vLLM
TensorRT-LLM
TGI
DeepSpeed
GPU推理
AI部署
NVIDIA
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
编程
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
2026-07-14 18:47:11 +0800 CST
view 203
深度拆解 LMCache 项目:从 Transformer Attention 机制出发,详细讲解 KV Cache 原理、三层存储架构、生产部署实战、Docker Compose 配置、CacheGen 压缩算法、PD 分离、跨实例 KV Cache 共享,以及与 vLLM/SGLang 的集成,配完整代码示例与性能调优指南。实测 DeepSeek 多轮对话 3~5 倍 TTFT 改善。
LMCache
KV Cache
LLM推理
vLLM
SGLang
推理优化
DeepSeek
分布式缓存
LLM 推理框架选型实战:vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
编程
LLM 推理框架选型实战:vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
2026-07-03 13:49:04 +0800 CST
view 465
深度对比 vLLM 0.5、TensorRT-LLM 1.8、TGI 2.0、DeepSpeed-MII 0.9 四大推理框架,从核心技术原理、性能数据、成本账本到生产部署实战,帮你做出正确的框架选型决策。
LLM
vLLM
TensorRT-LLM
TGI
DeepSpeed
推理优化
大模型部署
GPU优化
前端工具链的Rust革命:从Vite 8到Vite+,尤雨溪的「一次编写、极速构建」终极愿景
编程
前端工具链的Rust革命:从Vite 8到Vite+,尤雨溪的「一次编写、极速构建」终极愿景
2026-07-23 01:12:52 +0800 CST
view 287
深度解析Vite 8底层革命:Rolldown替换esbuild+Rollup双轨制,性能提升10~30倍。全面解读Vite+一体化工具链设计哲学,从项目创建到生产构建的统一入口。涵盖Rolldown技术架构、Oxc工具链、性能基准测试及实战迁移指南。
Vite 8
Rolldown
Vite+
Oxc
Rust
前端工具链
VoidZero
前端构建工具
Module Federation
Vite Plus
RLX 深度拆解:MIT 如何用纯 Rust 写出一个「编译器+运行时合一」的 ML 框架——从 JAX 形状的张量 IR 到 15 种硬件后端的全栈工程哲学
编程
RLX 深度拆解:MIT 如何用纯 Rust 写出一个「编译器+运行时合一」的 ML 框架——从 JAX 形状的张量 IR 到 15 种硬件后端的全栈工程哲学
2026-08-04 01:43:34 +0800 CST
view 170
深度拆解MIT RLX纯Rust ML编译器架构:统一IR贯穿图优化到内核调度、15种硬件后端支持、JAX形自动微分、INT8量化感知训练、FPGA综合、Iroh NAT穿透分布式训练,附完整代码示例与性能优化实战指南
RLX
Rust
ML编译器
张量IR
自动微分
边缘计算
WebGPU
CUDA
Apple Silicon
量化部署
开源
Apple Container深度实战:当macOS遇见原生Linux容器——告别Docker Desktop高资源占用,专为M系列芯片优化的轻量级容器方案完全指南(2026)
编程
Apple Container深度实战:当macOS遇见原生Linux容器——告别Docker Desktop高资源占用,专为M系列芯片优化的轻量级容器方案完全指南(2026)
2026-06-16 04:16:21 +0800 CST
view 1155
本文深度解析Apple开源的Container项目,对比Docker Desktop的核心痛点,详细讲解安装配置、基础操作、高级实战场景、性能优化技巧,为macOS开发者提供完美的轻量级容器解决方案。
Apple
容器
Linux
macOS
Docker
开发工具
Playwright Test Agents深度解析:三个AI Agent帮你全自动写测试
编程
Playwright Test Agents深度解析:三个AI Agent帮你全自动写测试
2026-04-28 16:25:24 +0800 CST
view 1567
Playwright官方推出Test Agents,三个AI Agent接力:Planner探索应用生成测试计划、Generator转代码、Healer自动修复失败测试,全程自动化。
Playwright
AI
测试
自动化
Agent
PersonaPlex 深度解析:当 NVIDIA 让全双工语音对话进入「角色扮演」时代
编程
PersonaPlex 深度解析:当 NVIDIA 让全双工语音对话进入「角色扮演」时代
2026-04-09 11:32:36 +0800 CST
view 1127
NVIDIA发布的PersonaPlex在Moshi架构基础上增加了角色扮演和语音克隆能力,让AI可以扮演教师、客服等不同身份进行实时语音对话。本文从架构、代码、实战角度全面解析这项技术突破。
PersonaPlex
NVIDIA
Moshi
全双工语音
AI对话
角色扮演
Xcode 27 三智能体融合:AI编程从「辅助补全」到「代理开发」的范式革命——2026年开发者工作流深度重构完全指南
编程
Xcode 27 三智能体融合:AI编程从「辅助补全」到「代理开发」的范式革命——2026年开发者工作流深度重构完全指南
2026-06-16 10:45:32 +0800 CST
view 332
2026年6月苹果Xcode 27 Beta将三大AI编程智能体全部原生集成进IDE。本文从架构原理出发,系统解析三层AI架构,并结合30天真实项目实测,全面评估这场从辅助补全到代理开发的范式革命对开发者的实际影响。
AI编程
Xcode
Apple
Claude
智能体
CVE-2026-31431 Copy Fail 深度技术剖析:Linux 内核 AF_ALG + splice() 提权漏洞从原理到实战修复
编程
CVE-2026-31431 Copy Fail 深度技术剖析:Linux 内核 AF_ALG + splice() 提权漏洞从原理到实战修复
2026-07-28 13:17:02 +0800 CST
view 571
深度剖析 CVE-2026-31431 Copy Fail 漏洞:内核 AF_ALG 加密套接字与 splice() 零拷贝系统调用的致命组合如何导致页缓存可控越界写入,附多发行版完整修复方案与容器逃逸场景分析
Linux内核
漏洞分析
AF_ALG
splice
CVE
安全
CentOS
Ubuntu
PyTorch 2.13 深度拆解:从 Metal 原生内核到 4 倍内存优化的工程全貌
编程
PyTorch 2.13 深度拆解:从 Metal 原生内核到 4 倍内存优化的工程全貌
2026-07-17 11:13:32 +0800 CST
view 502
深度拆解 PyTorch 2.13:FlexAttention 在 Apple Silicon 上提速 12 倍、CUTeDSL 为 Inductor 引入第二条代码生成路径、nn.LinearCrossEntropyLoss 将大词汇量模型显存降低 4 倍、torchcomms 重塑分布式训练通信层、ExecuTorch 正式并入核心,配完整生产级代码实战。
PyTorch
深度学习
AI框架
Metal
FlexAttention
Apple Silicon
分布式训练
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
6
7
8
9
10
...
47
下一页