程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
2026大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——谁才是生产级部署的真正王者?
编程
2026大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——谁才是生产级部署的真正王者?
2026-06-23 08:22:26 +0800 CST
view 253
深度对比2026年四大主流大模型推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9,从核心架构、性能压测、成本分析到代码实战的完全指南。
vLLM
TensorRT-LLM
大模型推理
性能优化
DeepSpeed
TGI
英伟达免费开放H100算力:DeepSeek、Kimi、GLM等主流大模型API免费用
编程
英伟达免费开放H100算力:DeepSeek、Kimi、GLM等主流大模型API免费用
2026-04-21 13:09:34 +0800 CST
view 1831
英伟达Build平台免费开放H100算力和主流大模型API,支持DeepSeek、Kimi、GLM等,3步拿到Key,代码对接OpenAI格式即可使用。
NVIDIA
大模型
免费API
DeepSeek
Kimi
大模型部署太慢?这个超级引擎帮你搞定!SGLang速通指南
编程
大模型部署太慢?这个超级引擎帮你搞定!SGLang速通指南
2026-04-22 09:27:57 +0800 CST
view 581
DeepSeek官方推荐!SGLang高性能大模型推理框架速通指南,RadixAttention前缀缓存、零开销调度、OpenAI API兼容,性能碾压vLLM。
SGLang
大模型推理
DeepSeek
开源
vLLM
MoE架构深度实战:当模型参数突破万亿——从DeepSeek R2到GPT-5的稀疏激活革命(2026完全指南)
编程
MoE架构深度实战:当模型参数突破万亿——从DeepSeek R2到GPT-5的稀疏激活革命(2026完全指南)
2026-06-26 00:46:56 +0800 CST
view 137
2026年,大语言模型的参数量已经突破1.2万亿(DeepSeek R2),但推理时的计算量只相当于200亿参数的稠密模型。这背后的核心技术就是Mixture of Experts(MoE)架构。本文深度解析MoE的核心原理、工程实现、负载均衡策略,以及DeepSeek R2和GPT-5中的最新优化技巧。包含完整的PyTorch代码实战,从零实现MoE层。
MoE架构
混合专家
DeepSeek R2
稀疏激活
门控网络
负载均衡
大模型推理
细粒度MoE
共享专家
GPT-5
2026大模型推理框架年度横评:vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
编程
2026大模型推理框架年度横评:vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
2026-06-18 17:54:54 +0800 CST
view 366
深度横评2026年四大主流大模型推理框架,涵盖PagedAttention架构、ContinuousBatching、算子融合、FP8量化、NVMe卸载等核心技术,配实测数据与生产级选型指南
大模型
LLM
推理框架
vLLM
TensorRT-LLM
TGI
DeepSpeed
GPU推理
AI部署
NVIDIA
万字深度解析 DeepSeek V4:当 1.6T 开源模型遇见「架构效率革命」——从 mHC 稳压机制到 CSA/HCA 稀疏注意力、从 FP4 量化到 Muon 优化器的完整技术指南(2026)
编程
万字深度解析 DeepSeek V4:当 1.6T 开源模型遇见「架构效率革命」——从 mHC 稳压机制到 CSA/HCA 稀疏注意力、从 FP4 量化到 Muon 优化器的完整技术指南(2026)
2026-07-02 06:43:56 +0800 CST
view 85
DeepSeek V4 技术架构深度解析:从 mHC 流形约束超连接、CSA/HCA 混合稀疏注意力、FP4 量化感知训练到 Muon 优化器,完整拆解 1.6T 开源模型如何用架构创新把 1M token 推理效率提升到 V3.2 的 10%。
DeepSeek V4
大模型架构
MoE
CSA/HCA 注意力
FP4 量化
mHC
AI 开源
长上下文
用AI做失败复盘:一张提示词,让核心问题自动浮现
资讯
用AI做失败复盘:一张提示词,让核心问题自动浮现
2026-04-23 21:28:06 +0800 CST
view 481
本文探讨了失败复盘的正确方法,指出常见复盘误区(归咎外部、情绪化分析),并介绍了一套AI提示词,通过六步结构化流程(接收结果、澄清边界、确认动机、提取核心事实、单线深入、点出核心)引导用户从模糊感受转向具体事实,找到真正导致失败的行为断裂点。提示词设计为中立复盘引导者,不猜测心理,只基于事实链分析。实测在DeepSeek上效果理想,强调信息越具体分析越精准。
提示词工程
AI工具
复盘方法论
DeepSeek
LLM应用
自我提升
结构化思维
DeepSeek V4 深度技术解析:从 MoE 架构到百万上下文的生产级实战指南
编程
DeepSeek V4 深度技术解析:从 MoE 架构到百万上下文的生产级实战指南
2026-07-08 01:51:46 +0800 CST
view 28
深度解析DeepSeek V4的MoE架构、DSA稀疏注意力、百万Token上下文、国产算力适配等核心技术,配完整API接入代码与成本优化指南
DeepSeek-V4
MoE架构
DSA稀疏注意力
大模型
AI编程
开源模型
百万上下文
华为昇腾
万字深度解析 Model Context Protocol:当 AI Agent 遇见「USB-C 协议革命」——从 Safari MCP 服务器到全平台生态覆盖的完整技术指南(2026)
编程
万字深度解析 Model Context Protocol:当 AI Agent 遇见「USB-C 协议革命」——从 Safari MCP 服务器到全平台生态覆盖的完整技术指南(2026)
2026-07-02 19:22:59 +0800 CST
view 221
深度解析 MCP 协议架构:从 Safari WebKit MCP 服务器、X 托管 MCP 服务、DeepSeek V4.1 原生 MCP 支持,到生产级 MCP Server 开发实战,含完整代码
Model Context Protocol
MCP
AI Agent
Anthropic
Safari
DeepSeek
Gemini
DeepSeek-V4预览版深度解析:MoE架构+百万上下文+1.6T参数,开源旗舰模型全面升级
编程
DeepSeek-V4预览版深度解析:MoE架构+百万上下文+1.6T参数,开源旗舰模型全面升级
2026-04-24 17:19:28 +0800 CST
view 582
2026年4月24日DeepSeek发布V4预览版,总参1.6T/284B,激活49B/13B,100万Token上下文,DSA稀疏注意力,兼容OpenAI+Anthropic双协议,昇腾与寒武纪Day 0适配,深度解析其架构与API用法。
DeepSeek
V4
MoE
大模型
开源
DeepSeek-R1边缘推理实战:从云端独占到本地智能的范式转移
编程
DeepSeek-R1边缘推理实战:从云端独占到本地智能的范式转移
2026-05-19 12:42:27 +0800 CST
view 410
2026年,边缘AI不再只是云端模型的精简版。本文深入剖析DeepSeek-R1 CPU版的技术原理,从模型蒸馏、量化技术的底层原理到生产环境的完整部署方案,提供可直接落地的代码和可量化的性能数据。
DeepSeek
R1
边缘计算
AI推理
模型蒸馏
量化
llama.cpp
Ollama
端侧AI
DeepSeek-V4 深度解析:百万Token上下文与MoE架构的技术革命
编程
DeepSeek-V4 深度解析:百万Token上下文与MoE架构的技术革命
2026-04-26 08:10:21 +0800 CST
view 619
深度解析DeepSeek-V4的技术突破:百万Token原生上下文、万亿级MoE架构、国产芯片适配。从技术原理到工程实践,全面剖析这场开源AI的革命。
DeepSeek
大模型
MoE
百万上下文
开源AI
LLM 推理框架选型实战:vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
编程
LLM 推理框架选型实战:vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
2026-07-03 13:49:04 +0800 CST
view 121
深度对比 vLLM 0.5、TensorRT-LLM 1.8、TGI 2.0、DeepSpeed-MII 0.9 四大推理框架,从核心技术原理、性能数据、成本账本到生产部署实战,帮你做出正确的框架选型决策。
LLM
vLLM
TensorRT-LLM
TGI
DeepSpeed
推理优化
大模型部署
GPU优化
稀疏注意力架构革命:2026年长上下文大模型核心技术解析
编程
稀疏注意力架构革命:2026年长上下文大模型核心技术解析
2026-07-09 08:45:09 +0800 CST
view 19
深入解析2026年稀疏注意力技术革命,涵盖SubCube、CSA/HCA、MSA三大架构的技术原理、代码实现与实战指南,探讨长上下文大模型的最新发展。
AI
大模型
Transformer
稀疏注意力
LongContext
DeepSeek
MiniMax
DeepSeek V4 深度解析:DSA 稀疏注意力与 mHC 流形约束——百万上下文普惠化的技术革命(2026)
编程
DeepSeek V4 深度解析:DSA 稀疏注意力与 mHC 流形约束——百万上下文普惠化的技术革命(2026)
2026-07-04 06:44:28 +0800 CST
view 87
2026年4月DeepSeek V4发布,开创百万上下文普惠化时代。深度解析DSA稀疏注意力、mHC流形约束、Muon优化器三大技术创新,含完整代码实战与部署指南。
DeepSeek V4
大模型
MoE
稀疏注意力
长上下文
DSA
mHC
DeepSeek V4 深度解析:百万token上下文的技术革命,让开源模型站上全球之巅
编程
DeepSeek V4 深度解析:百万token上下文的技术革命,让开源模型站上全球之巅
2026-04-28 08:19:25 +0800 CST
view 563
深度解析 DeepSeek V4:混合注意力机制、MoE 架构、100万token 上下文、Agent 能力,从技术原理到部署实战,全面剖析开源模型新天花板
DeepSeek
AI大模型
开源
长上下文
MoE
混合注意力
Agent
DwarfStar 4深度解析:Redis之父如何用500行C代码重塑本地大模型推理
编程
DwarfStar 4深度解析:Redis之父如何用500行C代码重塑本地大模型推理
2026-06-29 01:19:31 +0800 CST
view 127
Redis创始人antirez开源项目DwarfStar 4深度解析:如何用5000行C代码为DeepSeek V4 Flash打造专用推理引擎,实现Mac上26 tok/s的本地大模型推理体验。
AI推理
本地大模型
DeepSeek
C语言
Metal
3.2万Star开源本地AI知识库:Open Notebook支持18家模型+播客生成+MCP集成
编程
3.2万Star开源本地AI知识库:Open Notebook支持18家模型+播客生成+MCP集成
2026-06-21 12:21:16 +0800 CST
view 193
Open Notebook 是3.2万Star的开源本地AI知识库,Google Notebook LM替代品。支持18家AI模型切换、1-4人播客生成、RAG对话+来源标注、MCP集成、REST API。MIT协议,Docker两分钟部署,数据全在本地。
AI知识库
开源
RAG
播客
MCP
Ollama
DeepSeek
本地部署
隐私
Career-Ops 深度实战:当 Claude Code 化身求职指挥中心——从 AI 编程工具到全流程求职自动化的生产级完全指南(2026)
编程
Career-Ops 深度实战:当 Claude Code 化身求职指挥中心——从 AI 编程工具到全流程求职自动化的生产级完全指南(2026)
2026-06-16 11:20:12 +0800 CST
view 415
深度解析 GitHub 50K Stars 的 Career-Ops 项目,如何将 Claude Code 变成全流程求职指挥中心,覆盖职位扫描、AI评估、ATS优化简历生成、面试追踪等14种skill modes
Claude Code
Career-Ops
AI求职
求职自动化
Claude Skill
Python编程
Go语言
CLI-Anything:把任意GUI软件自动转成AI Agent能用的CLI工具
编程
CLI-Anything:把任意GUI软件自动转成AI Agent能用的CLI工具
2026-05-22 11:59:13 +0800 CST
view 417
香港大学开源CLI-Anything,7阶段全自动流水线把任意GUI软件转成CLI工具,让AI Agent直接命令行驱动Blender、FreeCAD、GIMP等专业软件,支持Claude Code/OpenClaw/Codex等平台。
AI Agent
CLI工具
自动化
HKUDS
Claude Code
Blender
FreeCAD
告别笨重 CAD:Claude 写出来的 3D 建筑编辑器,浏览器打开就能用
资讯
告别笨重 CAD:Claude 写出来的 3D 建筑编辑器,浏览器打开就能用
2026-04-24 07:27:07 +0800 CST
view 640
PascalEditor是一款由ClaudeAI参与开发的WebGPU3D建筑编辑器,开源免费、浏览器直接运行、性能流畅。本文深入分析其技术架构(WebGPU、ReactThreeFiber、脏节点追踪、Monorepo分层设计)、核心特性(零门槛免安装、完全免费开源、AI参与开发)、与主流工具(酷家乐、SketchUp、AutoCAD/Revit)的对比,以及它所代表的AI编程新范式。适合装修房主、设计师、前端开发者及创业团队使用。
WebGPU
ReactThreeFiber
AI编程
开源3D工具
Claude
前端图形学
建筑可视化
MIT协议
3D编辑器
浏览器应用
OpenScreen深度解析:GitHub 2万+ Stars的开源录屏神器,如何用Electron + PixiJS重塑开发者内容创作体验
编程
OpenScreen深度解析:GitHub 2万+ Stars的开源录屏神器,如何用Electron + PixiJS重塑开发者内容创作体验
2026-04-17 17:47:56 +0800 CST
view 613
深度解析GitHub爆火开源录屏工具OpenScreen的技术架构,涵盖Electron跨平台采集、PixiJS WebGL实时渲染、MediaRecorder录制管线、FFmpeg导出优化等核心技术的工程实践。
Electron
PixiJS
开源
录屏工具
TypeScript
React
OpenScreen
OpenScreen技术全解:Electron屏幕采集 + PixiJS渲染管线 + FFmpeg导出优化的工程实践
编程
OpenScreen技术全解:Electron屏幕采集 + PixiJS渲染管线 + FFmpeg导出优化的工程实践
2026-04-17 17:48:52 +0800 CST
view 544
深度解析GitHub爆火开源录屏工具OpenScreen的技术架构,涵盖Electron跨平台采集、PixiJS WebGL实时渲染、MediaRecorder录制管线、FFmpeg导出优化等核心技术的工程实践。
Electron
PixiJS
开源
录屏工具
TypeScript
React
OpenScreen
CodeGraph 深度实战:当 AI 编码代理遇见代码知识图谱——从 AST 解析到本地索引引擎、MCP 集成与零文件读取模式的生产级完全指南(2026)
编程
CodeGraph 深度实战:当 AI 编码代理遇见代码知识图谱——从 AST 解析到本地索引引擎、MCP 集成与零文件读取模式的生产级完全指南(2026)
2026-06-17 09:52:23 +0800 CST
view 285
CodeGraph 是专为AI编码代理打造的本地代码知识图谱引擎,预索引代码库的符号关系和调用图,让AI直接查询结构化知识而非逐行扫描文件,Token消耗降低57%,响应速度提升46%的生产级完全指南
CodeGraph
AI编码代理
代码知识图谱
MCP
Tree-sitter
Claude Code
Cursor
AST解析
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
4
5
6
7
8
...
86
下一页