程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
TensorRT-LLM 深度实战:从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命
编程
TensorRT-LLM 深度实战:从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命
2026-05-22 06:19:51 +0800 CST
view 502
深入解析TensorRT-LLM推理框架,从Paged KV Cache、连续批处理到INT4/INT8/FP8量化实战,覆盖Blackwell架构适配、Triton部署与K8s生产方案
TensorRT-LLM
LLM推理
量化
INT4
Blackwell
GPU优化
SubCube 深度实战:亚二次稀疏注意力 SSA 如何打破 Transformer 的 O(n²) 铁律——1200万 Token 时代从架构原理到生产级部署的完全指南(2026)
编程
SubCube 深度实战:亚二次稀疏注意力 SSA 如何打破 Transformer 的 O(n²) 铁律——1200万 Token 时代从架构原理到生产级部署的完全指南(2026)
2026-05-31 08:21:47 +0800 CST
view 366
Subquadratic发布的SubQ模型采用SSA亚二次稀疏注意力架构,实现1200万Token上下文窗口,在MRCR v2基准测试中碾压GPT-5.5。本文从架构原理、基准分析、代码实战到生产部署全面解读这场注意力革命。
SSA
Subquadratic
SubQ
Transformer
注意力机制
长上下文
RAG
稀疏注意力
AI架构
大模型
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
编程
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
2026-06-15 21:20:49 +0800 CST
view 209
深入解析小米MiMo UltraSpeed如何通过SWA架构在通用GPU上突破1000 tokens/s推理速度,从O(n²)困境到极致跨越的完整技术指南。
SWA
Sliding Window Attention
LLM推理
小米MiMo
推理优化
Transformer
PagedAttention
量化推理
端侧AI
LiteRT.js 深度解析:Google 为什么要在 2026 年"革"掉 TensorFlow.js 的命?
编程
LiteRT.js 深度解析:Google 为什么要在 2026 年"革"掉 TensorFlow.js 的命?
2026-07-10 12:18:19 +0800 CST
view 43
2026年7月9日Google发布LiteRT.js取代TensorFlow.js,WebGPU+WebNN+WebAssembly三剑合璧带来3倍性能提升。本文深度剖析底层架构、与TensorFlow.js的全面对比、生产级代码示例及性能调优实战。
LiteRT.js
TensorFlow.js
WebGPU
WebNN
WebAssembly
浏览器AI
前端机器学习
性能优化
2026 大模型推理优化:TensorRT-LLM v0.19 + Blackwell + 低比特量化实战手册
编程
2026 大模型推理优化:TensorRT-LLM v0.19 + Blackwell + 低比特量化实战手册
2026-04-09 03:15:44 +0800 CST
view 896
2026年TensorRT-LLM v0.19全面解析:Skip Softmax稀疏注意力、Paged KV Cache显存管理、INT8/INT4低比特量化完整实战,Blackwell架构适配指南,70B模型单卡部署方案
TensorRT-LLM
低比特量化
Blackwell
INT8
INT4
推理优化
NVIDIA
MIT黑科技:TriAttention如何用三角函数让大模型「记住」超长上下文
编程
MIT黑科技:TriAttention如何用三角函数让大模型「记住」超长上下文
2026-04-18 12:45:10 +0800 CST
view 655
深度解析MIT/NVIDIA/浙大联合发布的TriAttention技术,用三角函数预测注意力分布,实现KV Cache智能压缩,让超长上下文推理成为可能
大模型
注意力机制
KV缓存
Transformer
深度学习
AI优化
Pascal Editor 深度实战:当 WebGPU 遇见 3D 建筑可视化——从浏览器零安装到生产级架构的完全指南(2026)
编程
Pascal Editor 深度实战:当 WebGPU 遇见 3D 建筑可视化——从浏览器零安装到生产级架构的完全指南(2026)
2026-06-16 15:34:34 +0800 CST
view 225
Pascal Editor 是一个基于 WebGPU 和 React Three Fiber 构建的开源 3D 建筑编辑器,运行在浏览器中无需安装。本文深度解析其 Monorepo 架构、场景状态管理、WebGPU 渲染管线、CSG 布尔运算和性能优化策略。
WebGPU
Three.js
React Three Fiber
Pascal Editor
3D编辑器
Turborepo
Bun
Monorepo
CSG
前端工程化
Loop Engineering(循环工程)万字深度解析:2026年最火的AI开发范式——从Prompt到自主循环的系统架构革命
编程
Loop Engineering(循环工程)万字深度解析:2026年最火的AI开发范式——从Prompt到自主循环的系统架构革命
2026-06-30 17:12:21 +0800 CST
view 183
2026年6月AI圈最火的新概念:Loop Engineering(循环工程)万字深度解析。从Prompt Engineering到自主循环的四代范式跃迁,六块积木核心架构拆解,完整代码实战与Token优化策略
Loop Engineering
AI Agent
Prompt Engineering
自动化
AI开发
万字拆解 Loop Engineering:当 AI 开发从写提示词进化到设计循环系统——2026年最值得掌握的编程范式
编程
万字拆解 Loop Engineering:当 AI 开发从写提示词进化到设计循环系统——2026年最值得掌握的编程范式
2026-06-30 17:13:12 +0800 CST
view 168
2026年6月AI圈最火的新概念:Loop Engineering(循环工程)万字深度解析。从Prompt Engineering到自主循环的四代范式跃迁,六块积木核心架构拆解,完整代码实战与Token优化策略
Loop Engineering
AI Agent
Prompt Engineering
自动化
AI开发
万字深度解析 Model Context Protocol:当 AI Agent 遇见「USB-C 协议革命」——从 Safari MCP 服务器到全平台生态覆盖的完整技术指南(2026)
编程
万字深度解析 Model Context Protocol:当 AI Agent 遇见「USB-C 协议革命」——从 Safari MCP 服务器到全平台生态覆盖的完整技术指南(2026)
2026-07-02 19:22:59 +0800 CST
view 310
深度解析 MCP 协议架构:从 Safari WebKit MCP 服务器、X 托管 MCP 服务、DeepSeek V4.1 原生 MCP 支持,到生产级 MCP Server 开发实战,含完整代码
Model Context Protocol
MCP
AI Agent
Anthropic
Safari
DeepSeek
Gemini
Claude Code 接入 DeepSeek V4:十分之一价格,Opus 级性能,保姆级配置指南
编程
Claude Code 接入 DeepSeek V4:十分之一价格,Opus 级性能,保姆级配置指南
2026-04-27 07:06:28 +0800 CST
view 939
DeepSeek V4 性能对标 Claude Opus 4.6,价格不到十分之一。本文提供保姆级配置教程,包括 CC Switch 图形化工具和环境变量两种方式,实测 Flappy Bird 和待办管理两个真实任务的完整体验。
Claude Code
DeepSeek V4
AI编程
Anthropic API
CC Switch
DeepSeek-TUI 深度实战:Rust 打造的终端原生 AI 编程智能体——从 10K Star 爆火到生产级 Coding Agent 架构全链路解析
编程
DeepSeek-TUI 深度实战:Rust 打造的终端原生 AI 编程智能体——从 10K Star 爆火到生产级 Coding Agent 架构全链路解析
2026-05-08 11:08:11 +0800 CST
view 933
深度解析 DeepSeek-TUI:Rust 打造的终端原生 AI 编程智能体,16K+ Star、登顶 GitHub Trending,从架构设计到生产级实战的全链路解析
DeepSeek-TUI
Rust
AI编程
Agent
Coding
Copilot
Loop Engineering 完全指南:从 Prompt 设计者到循环架构师的范式跃迁——当 AI 编程进入系统设计时代(2026)
编程
Loop Engineering 完全指南:从 Prompt 设计者到循环架构师的范式跃迁——当 AI 编程进入系统设计时代(2026)
2026-07-04 14:44:21 +0800 CST
view 179
万字深度解析 Loop Engineering:2026年AI编程新范式,从Claude Code /loop到openloop开源框架,从五种循环模式到生成器-评估器-规划器三体架构,从成本模型到生产级部署,完整技术指南。
Loop Engineering
AI编程
Claude Code
循环工程
Agent
Prompt Engineering
系统设计
DSpark:DeepSeek联手北大「投机解码」登顶,推理速度飙升85%背后真相
编程
DSpark:DeepSeek联手北大「投机解码」登顶,推理速度飙升85%背后真相
2026-06-29 13:45:21 +0800 CST
view 216
深度解析DeepSeek联合北京大学发布的DSpark置信度调度投机解码框架,剖析半自回归候选生成、动态验证调度、硬件感知前缀缓存三大核心创新
DeepSeek
DSpark
投机解码
大模型推理
置信度调度
Speculative Decoding
DSpark深度解析:DeepSeek联合北大开源的推测解码框架——半自回归生成+置信度调度如何让大模型推理速度飙升85%
编程
DSpark深度解析:DeepSeek联合北大开源的推测解码框架——半自回归生成+置信度调度如何让大模型推理速度飙升85%
2026-07-06 07:43:51 +0800 CST
view 186
深度解析DeepSeek联合北京大学开源的DSpark推测解码推理加速框架:半自回归生成架构解决后缀衰减、置信度调度验证机制避免算力浪费、单用户生成速度提升60%-85%、吞吐量最高暴涨661%。含完整代码实战与性能基准测试。
DSpark
DeepSeek
推测解码
Speculative Decoding
推理加速
半自回归
置信度调度
大模型推理
Meetily 深度解析:16K Stars 的 Rust 隐私优先 AI 会议助手如何用 Parakeet/Whisper 实时转录 + Ollama 本地摘要让企业会议数据永远不出设备——从 Tauri 架构到生产级部署的完整实战指南
编程
Meetily 深度解析:16K Stars 的 Rust 隐私优先 AI 会议助手如何用 Parakeet/Whisper 实时转录 + Ollama 本地摘要让企业会议数据永远不出设备——从 Tauri 架构到生产级部署的完整实战指南
2026-07-07 05:42:52 +0800 CST
view 85
深度解析GitHub 16K+ Stars的Meetily隐私优先AI会议助手:基于Rust+Tauri架构,集成Whisper/Parakeet双引擎实时转录、说话人分离、Ollama本地LLM摘要生成。100%本地处理,数据永远不出设备。从架构原理到生产级部署实战,含完整代码示例与竞品对比分析。
Meetily
Rust
隐私优先
AI会议助手
语音转录
Whisper
Parakeet
Ollama
Tauri
开源
ds4 深度实战:当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南
编程
ds4 深度实战:当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南
2026-06-11 07:51:35 +0800 CST
view 348
Redis之父antirez新作ds4深度解析:非对称2-bit量化、KV缓存磁盘持久化、Metal极致优化,284B模型在MacBook上跑出26 tok/s的完全指南
ds4
DeepSeek
本地推理
Metal
KV缓存
量化
antirez
Redis
DeepSeek-Reasonix 深度解析:13K+ Stars 的 DeepSeek 原生编码 Agent 如何用 Go 重写 + Cache-First 架构让长会话成本暴跌 80%——从 prefix-cache 原理到生产级实战的完整指南
编程
DeepSeek-Reasonix 深度解析:13K+ Stars 的 DeepSeek 原生编码 Agent 如何用 Go 重写 + Cache-First 架构让长会话成本暴跌 80%——从 prefix-cache 原理到生产级实战的完整指南
2026-07-06 23:42:51 +0800 CST
view 69
深度解析GitHub 13K+ Stars的DeepSeek-Reasonix终端AI编码代理:Go从零重写、Cache-First Loop架构、99%缓存命中率、Tool-Call Repair自愈、R1 Thought Harvest思维链收割、Auto模型切换、Tauri桌面客户端、QQ频道远程控制。从prefix-cache原理到生产级实战,含完整代码示例与竞品对比。
DeepSeek
Reasonix
AI Agent
终端编程
prefix-cache
Go
缓存优化
开源
Redis之父的「孤注一掷」:ds4.c如何让284B参数模型在128GB MacBook上跑起来
编程
Redis之父的「孤注一掷」:ds4.c如何让284B参数模型在128GB MacBook上跑起来
2026-07-11 16:17:33 +0800 CST
view 17
Redis之父 Salvatore Sanfilippo 2026年5月发布的新项目 ds4.c,专为 DeepSeek V4 Flash + Apple Silicon Metal 打造本地推理引擎,8000行代码实现2.5倍性能提升。本文深度解析其架构设计、Graph Executor、KV Cache页式管理与Metal Shader实现。
推理引擎
Apple Silicon
DeepSeek
Metal
Redis
ds4.c
ds4.c 深度解析:Redis之父如何用纯C代码在MacBook上跑通284B大模型——从不对称量化到KV缓存磁盘化的完整技术内幕
编程
ds4.c 深度解析:Redis之父如何用纯C代码在MacBook上跑通284B大模型——从不对称量化到KV缓存磁盘化的完整技术内幕
2026-05-18 06:15:03 +0800 CST
view 551
Redis之父antirez开源ds4.c项目深度解析:用纯C语言在MacBook上运行284B参数大模型,不对称2-bit量化、KV缓存磁盘化、OpenAI/Anthropic API兼容,打造首个真正的本地Agent推理后端
AI推理
本地大模型
Redis
Apple Silicon
DeepSeek
DwarfStar 4 深度实战:当 Redis 之父用 C 语言重新发明本地推理——从磁盘 KV 一等公民到 284B 模型跑进 MacBook 的工程完全指南(2026)
编程
DwarfStar 4 深度实战:当 Redis 之父用 C 语言重新发明本地推理——从磁盘 KV 一等公民到 284B 模型跑进 MacBook 的工程完全指南(2026)
2026-06-14 09:48:41 +0800 CST
view 480
Redis之父antirez的ds4项目深度解析:非对称2-bit量化、磁盘KV缓存一等公民、session_sync增量推理、方向引导、分布式推理的工程实战指南
ds4
DwarfStar
本地推理
DeepSeek
MoE
KV缓存
antirez
Metal
量化
ds4 深度解析:Redis 作者的最后一战?—— DwarfStar 4 本地推理引擎的技术革命
编程
ds4 深度解析:Redis 作者的最后一战?—— DwarfStar 4 本地推理引擎的技术革命
2026-05-15 17:47:40 +0800 CST
view 627
深入解析 antirez(Redis 作者)新开源项目 ds4:DwarfStar 4 本地推理引擎,专门为 DeepSeek V4 Flash 打造,支持 Metal/CUDA 后端,2-bit 量化可在 96GB 内存 MacBook 上运行 284B 参数模型。
AI推理
本地部署
DeepSeek
Redis
Apple Silicon
CUDA
Metal
MoE
量化
百度 Unlimited OCR 开源:用常数级 KV Cache 一次性吃下整本书
编程
百度 Unlimited OCR 开源:用常数级 KV Cache 一次性吃下整本书
2026-06-29 06:14:12 +0800 CST
view 204
百度开源 Unlimited OCR 模型,用常数级 KV Cache 解决长文档识别难题。30亿参数端到端架构,推理仅激活5亿参数,单次前向识别几十页文档,OmniDocBench v1.6 总分93.92%刷新SOTA。
OCR
开源
百度
DeepSeek
端到端
长文档
FinOps 2026完全指南:从Kubernetes成本优化到AI Token计费时代——云原生企业的省钱必修课
编程
FinOps 2026完全指南:从Kubernetes成本优化到AI Token计费时代——云原生企业的省钱必修课
2026-06-26 03:15:38 +0800 CST
view 195
2026年FinOps完全指南:深度解析Kubernetes成本优化、AI Token计费治理、多云成本管控、GreenOps。包含代码示例和实战案例,帮助企业降低30-40%云成本。
FinOps
云成本优化
Kubernetes
AI Token成本
GreenOps
云平台工程
成本治理
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
5
6
7
8
9
...
74
下一页