程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
Qwen3.8-2.4T-A95B 深度技术拆解:从2.4万亿参数MoE架构到本地部署的完整工程实践(2026)
编程
Qwen3.8-2.4T-A95B 深度技术拆解:从2.4万亿参数MoE架构到本地部署的完整工程实践(2026)
2026-08-13 19:44:17 +0800 CST
view 217
深度拆解阿里开源的Qwen3.8-2.4T-A95B模型:2.4万亿参数、512专家MoE架构、混合注意力机制、MTP多Token预测、9芯适配、vLLM/SGLang部署实战与性能优化,附15条生产踩坑清单。
Qwen3.8
MoE架构
混合专家
开源大模型
本地部署
人工智能
百度开源Unlimited OCR:3B参数500M激活拿下全球第一,疑似DeepSeek出走大神之作
编程
百度开源Unlimited OCR:3B参数500M激活拿下全球第一,疑似DeepSeek出走大神之作
2026-06-22 20:57:32 +0800 CST
view 1041
百度开源Unlimited OCR:3B参数500M激活,在OmniDocBench v1.6拿下93.92%端到端SOTA超越Qwen3-VL和Gemini。核心技术R-SWA参考滑动窗口注意力+DeepEncoder 16倍视觉压缩,实现40+页长程解析不失忆。疑似DeepSeek OCR核心作者魏浩然出走百度之作。
百度
OCR
开源
R-SWA
DeepEncoder
MoE
长程解析
SOTA
DeepSeek V4 Pro 深度拆解:1.6万亿参数MoE与百万上下文,从 CSA/HCA 分层注意力到 Agent 实战的完整指南(2026)
编程
DeepSeek V4 Pro 深度拆解:1.6万亿参数MoE与百万上下文,从 CSA/HCA 分层注意力到 Agent 实战的完整指南(2026)
2026-08-13 23:12:57 +0800 CST
view 165
深度拆解 DeepSeek V4 Pro:1.6万亿参数MoE、49B激活、CSA/HCA分层注意力、百万上下文成本结构、OpenAI/Anthropic双协议兼容与Agent代码实战,附15条生产踩坑清单。
DeepSeek V4 Pro
MoE
长上下文
Agent
大模型
1.6万亿参数,1M上下文,仅需27%算力:DeepSeek-V4-Pro 如何重新定义长文本推理
编程
1.6万亿参数,1M上下文,仅需27%算力:DeepSeek-V4-Pro 如何重新定义长文本推理
2026-05-11 10:53:54 +0800 CST
view 781
DeepSeek-V4-Pro 以 1.6T 总参数、49B 激活参数的 MoE 架构,原生支持 100 万 token 上下文,同时将推理算力降至 V3.2 的 27%、KV Cache 降至 10%。本文深度解析 CSA/HCA 混合注意力机制、mHC 流形约束超连接、KV Cache 极致优化、Muon 优化器等核心技术创新,以及如何在 Ollama、vLLM、官方 API 三种方式下部署运行。
DeepSeek-V4,MoE架构,CSA注意力,HCA注意力,KV Cache,1M上下文,长文本推理,开源大模型
百度 Unlimited-OCR 深度解析:R-SWA 注意力机制如何用 3B 参数打爆百亿模型
编程
百度 Unlimited-OCR 深度解析:R-SWA 注意力机制如何用 3B 参数打爆百亿模型
2026-06-30 16:16:03 +0800 CST
view 362
2026年6月百度开源Unlimited-OCR深度解析:R-SWA参考滑动窗口注意力机制将KV Cache从线性增长压成常数,3B MoE模型用500M激活参数在OmniDocBench上以93.92%总分刷新SOTA,打爆Qwen3-VL 72B和Gemini 2.5 Pro。万字长文从架构原理到代码实战全覆盖。
Unlimited-OCR
端到端OCR
R-SWA
百度
注意力机制
大模型
MoE
深度学习
AI开源
文档解析
DwarfStar 4 深度拆解:当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存,一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存,一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态
2026-08-05 12:17:17 +0800 CST
view 240
深度拆解Redis创始人antirez打造的DeepSeek V4 Flash专用本地推理引擎DwarfStar 4:One Model One Engine哲学、非对称量化策略、磁盘KV缓存、双协议兼容层,附完整架构分析与性能基准
DwarfStar
DeepSeek
本地推理
MoE
Metal
Apple Silicon
antirez
Redis
AI推理
开源
Kimi K3 深度拆解:2.8 万亿参数开放权重,KDA 线性注意力与 896 专家稀疏路由如何撑起 100 万 token 上下文
编程
Kimi K3 深度拆解:2.8 万亿参数开放权重,KDA 线性注意力与 896 专家稀疏路由如何撑起 100 万 token 上下文
2026-07-30 05:44:46 +0800 CST
view 169
深度拆解月之暗面开源的 Kimi K3:2.8T 参数 Stable Latent MoE(896选16)、KDA 混合线性注意力、AttnRes 与 MXFP4 量化训练,附玩具级代码实现、1M 上下文整库审查实战与冷静的成本边界分析。
Kimi K3
开放权重
MoE
线性注意力
KDA
长上下文
大模型
MXFP4
AI Agent
开源
LongCat-2.0 深度解析:美团万亿参数大模型如何用「零计算专家」和「稀疏注意力」在国产算力上跑出 SWE-bench Pro 59.5 分——从架构设计到 API 接入的完整实战指南
编程
LongCat-2.0 深度解析:美团万亿参数大模型如何用「零计算专家」和「稀疏注意力」在国产算力上跑出 SWE-bench Pro 59.5 分——从架构设计到 API 接入的完整实战指南
2026-07-06 11:44:38 +0800 CST
view 544
深度解析美团开源LongCat-2.0万亿参数大模型:MoE架构1.6T参数/48B激活、LongCat稀疏注意力(LSA)实现1M上下文、零计算专家动态激活、MOPD多专家融合、五万卡国产算力全流程训练、SWE-bench Pro 59.5超越GPT-5.5。含完整API接入代码实战。
LongCat
美团
大模型
MoE
稀疏注意力
国产算力
Agentic Coding
开源
Qwen3.8-Max 深度拆解:当阿里决定「把 2.4 万亿参数的 Max 模型开源」——从 MoE 架构到 16 天自主编程,一个首次开源的旗舰大模型如何用「激活 95B 跑出 2.4T 效果」重新定义开源模型的终极形态
编程
Qwen3.8-Max 深度拆解:当阿里决定「把 2.4 万亿参数的 Max 模型开源」——从 MoE 架构到 16 天自主编程,一个首次开源的旗舰大模型如何用「激活 95B 跑出 2.4T 效果」重新定义开源模型的终极形态
2026-08-05 18:47:19 +0800 CST
view 255
深度拆解阿里Qwen3.8-Max:2.4万亿参数MoE旗舰,首次开源Max级权重,100万token上下文,16天自主编程oh-my-cli项目,Gated DeltaNet混合注意力架构,Arena全球第二,Apache 2.0完全可商用
Qwen3.8
Qwen
阿里
大模型
MoE
开源
人工智能
Apache 2.0
自主编程
oh-my-cli
万字深度解析百度 Unlimited OCR:当 R-SWA 遇见 MoE——3B 参数如何碾压端到端 OCR 全场(2026)
编程
万字深度解析百度 Unlimited OCR:当 R-SWA 遇见 MoE——3B 参数如何碾压端到端 OCR 全场(2026)
2026-07-01 03:42:17 +0800 CST
view 362
2026年6月百度开源Unlimited OCR,5天GitHub Star破万。深度解析R-SWA注意力机制、MoE架构、16倍视觉Token压缩,以及为何能将KV Cache从线性增长压成常数。
Unlimited OCR
OCR
R-SWA
MoE
百度
深度学习
计算机视觉
文档识别
KV Cache
colibrì 深度拆解:当1300行纯C在25GB笔记本上跑起744B大模型——纯C运行时、MoE稀疏激活与智谱GLM-5.2的工程奇迹(2026)
编程
colibrì 深度拆解:当1300行纯C在25GB笔记本上跑起744B大模型——纯C运行时、MoE稀疏激活与智谱GLM-5.2的工程奇迹(2026)
2026-07-19 09:14:11 +0800 CST
view 1136
纯C语言实现的大模型推理引擎,仅用1300行代码在25GB内存笔记本上运行744B参数的GLM-5.2 MoE模型,含完整代码示例与技术解析
C语言
GLM-5.2
MoE
大模型推理
量化
AVX2
MLA注意力
推测解码
Apple Silicon
170亿参数撬动万亿算力:Llama 4 Scout/Maverick如何用MoE架构重新定义开源大模型
编程
170亿参数撬动万亿算力:Llama 4 Scout/Maverick如何用MoE架构重新定义开源大模型
2026-05-11 20:48:39 +0800 CST
view 884
深度解析Llama 4 Scout/Maverick的MoE架构、128专家设计、1000万token超长上下文,附本地部署实战与许可证分析
Meta
Llama4
MoE
开源大模型
混合专家架构
Scout
Maverick
iRoPE
DeepSeek V4 Flash 深度拆解:当后训练决定「不改架构只改脑子」——从 DSA2 混合注意力到 98% 缓存命中,一个 13B 激活参数的轻量模型如何用「后训练革命」在 9 项 Agent 基准上全面超越自家 1.6 万亿旗舰预览版
编程
DeepSeek V4 Flash 深度拆解:当后训练决定「不改架构只改脑子」——从 DSA2 混合注意力到 98% 缓存命中,一个 13B 激活参数的轻量模型如何用「后训练革命」在 9 项 Agent 基准上全面超越自家 1.6 万亿旗舰预览版
2026-08-05 22:19:15 +0800 CST
view 240
深度拆解DeepSeek V4-Flash正式版:13B激活参数如何通过后训练革命在9项Agent基准上超越1.6万亿旗舰预览版,98%缓存命中实现/bin/zsh.03单任务成本,DSA2混合注意力架构全面解析
DeepSeek
V4-Flash
MoE
DSA2
Agent
开源大模型
稀疏注意力
后训练
成本优化
国产算力
DiffusionGemma 深度实战:当谷歌用图像扩散的逻辑重塑文本生成——从离散扩散原理到 4 倍推理加速的生产级完全指南(2026)
编程
DiffusionGemma 深度实战:当谷歌用图像扩散的逻辑重塑文本生成——从离散扩散原理到 4 倍推理加速的生产级完全指南(2026)
2026-06-17 23:28:33 +0800 CST
view 668
2026年6月谷歌开源DiffusionGemma,26B MoE参数仅激活3.8B,通过离散扩散实现4倍推理加速。本文从原理、架构、代码实战、性能优化全面深度解析这一范式级创新。
DiffusionGemma
谷歌
文本扩散
MoE
AI推理
Gemma
开源模型
离散扩散
并行生成
深度学习
万字深度解析 DeepSeek V4:当 1.6 万亿参数遇见 DSA 稀疏注意力——开源大模型如何让 API 账单暴降 95%(2026)
编程
万字深度解析 DeepSeek V4:当 1.6 万亿参数遇见 DSA 稀疏注意力——开源大模型如何让 API 账单暴降 95%(2026)
2026-07-01 07:13:58 +0800 CST
view 464
2026年4月DeepSeek V4发布,1.6万亿参数+百万上下文+SWE-Bench 80.6%,API成本暴降95%。深度解析DSA稀疏注意力、MoE架构、生产级部署实战。
DeepSeek V4
DSA 稀疏注意力
MoE 架构
百万上下文
开源大模型
API 成本优化
大模型部署
Agent 能力
SWE-Bench
DeepSeek
colibrì 深度拆解:1300行纯C代码驱动7440亿参数大模型——当「不可能」变成「只是慢」
编程
colibrì 深度拆解:1300行纯C代码驱动7440亿参数大模型——当「不可能」变成「只是慢」
2026-07-19 14:42:08 +0800 CST
view 532
深度拆解 colibrì 项目:一位意大利开发者用 10 天、1300 行纯 C 代码,在 25GB 笔记本上运行 7440 亿参数大模型的工程全貌。涵盖 MoE 稀疏推理、NVMe 流式专家、MLA 注意力、MTP 推测解码等核心技术的完整解析。
C语言
MoE
大模型
NVMe
量化
GPU
深度学习
GLM-5.2
推理引擎
推测解码
LongCat-2.0 深度解析:美团万亿参数 MoE 大模型如何用国产算力 + LSA 稀疏注意力 + 零计算专家打造 Agentic Coding 王者——从架构原理到生产级实战的完整指南
编程
LongCat-2.0 深度解析:美团万亿参数 MoE 大模型如何用国产算力 + LSA 稀疏注意力 + 零计算专家打造 Agentic Coding 王者——从架构原理到生产级实战的完整指南
2026-07-07 00:13:46 +0800 CST
view 370
深度解析美团开源的LongCat-2.0万亿参数MoE大模型:50K国产卡全流程训练、LSA稀疏注意力实现1M超长上下文、零计算专家动态激活33B-56B、MOPD多专家融合、SWE-bench Pro 59.5超越GPT-5.5。从架构原理到生产级实战的完整指南。
LongCat-2.0
美团
MoE
万亿参数
国产算力
LSA稀疏注意力
Agentic Coding
开源大模型
2.8万亿参数的开源大模型工程极限:Kimi K3 架构深度拆解与本地部署完全指南
编程
2.8万亿参数的开源大模型工程极限:Kimi K3 架构深度拆解与本地部署完全指南
2026-07-30 22:15:48 +0800 CST
view 362
深度拆解 Kimi K3 的 2.8T MoE 架构:KDA 线性注意力、Attention Residuals、Stable Latent MoE、Benchmark 分析与完整本地部署指南
大模型
MoE
混合注意力
Kimi
开源AI
本地部署
Qwen3.8-Max 深度拆解:当阿里决定「用 2.4 万亿参数只激活 4%」——从稀疏 MoE 路由到混合注意力分层,一个 PaperBench 全球第一的旗舰模型如何用「极致稀疏化 + 自主进化」重新定义国产大模型的终极形态
编程
Qwen3.8-Max 深度拆解:当阿里决定「用 2.4 万亿参数只激活 4%」——从稀疏 MoE 路由到混合注意力分层,一个 PaperBench 全球第一的旗舰模型如何用「极致稀疏化 + 自主进化」重新定义国产大模型的终极形态
2026-08-06 06:42:51 +0800 CST
view 337
深度拆解阿里Qwen3.8-Max旗舰大模型:2.4T MoE架构、混合注意力分层、16天自主编程、125小时论文复现,PaperBench全球第一的技术内幕
Qwen3.8-Max
MoE
混合注意力
大模型
阿里千问
AI Agent
PaperBench
自主编程
DeepSeek V4 Flash 深度拆解:第一个为智能体而生的开源 MoE——从 2840 亿参数稀疏架构、百万上下文到 Agentic 工作流实战(2026)
编程
DeepSeek V4 Flash 深度拆解:第一个为智能体而生的开源 MoE——从 2840 亿参数稀疏架构、百万上下文到 Agentic 工作流实战(2026)
2026-07-20 01:43:13 +0800 CST
view 330
2026年OpenRouter开源F4之首DeepSeek V4 Flash深度拆解:MoE稀疏架构、百万上下文、FP8单卡部署与Agentic工具调用实战
DeepSeek
V4
MoE
开源大模型
AI智能体
vLLM
推理部署
万字深度解析百度 Unlimited OCR:当 R-SWA 注意力机制让端到端 OCR 一次性解析数十页文档——从架构设计到生产级部署完整指南(2026)
编程
万字深度解析百度 Unlimited OCR:当 R-SWA 注意力机制让端到端 OCR 一次性解析数十页文档——从架构设计到生产级部署完整指南(2026)
2026-07-01 15:43:34 +0800 CST
view 372
2026年6月百度开源Unlimited OCR深度解析:R-SWA参考滑动窗口注意力机制将KV Cache压为常数,3B参数(500M激活)在OmniDocBench以93.92%刷新SOTA,单次解析40+页文档。从架构设计到生产级部署完整技术指南。
Unlimited-OCR
R-SWA
百度
端到端OCR
大模型
MoE
DeepEncoder
性能优化
开源项目
Python
LLaDA2.2 深度拆解:全球首个大规模 Agentic 扩散模型——Levenshtein 编辑 + L-EBPO 如何打破自回归垄断
编程
LLaDA2.2 深度拆解:全球首个大规模 Agentic 扩散模型——Levenshtein 编辑 + L-EBPO 如何打破自回归垄断
2026-07-31 10:46:00 +0800 CST
view 200
全球首个大规模 Agentic 扩散模型深度拆解,详解 Levenshtein 编辑范式、L-EBPO 强化学习算法与 BlockRouting 128K 长上下文工程实践,对比自回归模型 Agent 能力评测。
扩散语言模型
Agentic AI
Levenshtein编辑
L-EBPO
蚂蚁集团
MoE架构
128K上下文
开源模型
AI Agent
强化学习
万字深度解析 DeepSeek V4:当 1.6T 开源模型遇见「架构效率革命」——从 mHC 稳压机制到 CSA/HCA 稀疏注意力、从 FP4 量化到 Muon 优化器的完整技术指南(2026)
编程
万字深度解析 DeepSeek V4:当 1.6T 开源模型遇见「架构效率革命」——从 mHC 稳压机制到 CSA/HCA 稀疏注意力、从 FP4 量化到 Muon 优化器的完整技术指南(2026)
2026-07-02 06:43:56 +0800 CST
view 409
DeepSeek V4 技术架构深度解析:从 mHC 流形约束超连接、CSA/HCA 混合稀疏注意力、FP4 量化感知训练到 Muon 优化器,完整拆解 1.6T 开源模型如何用架构创新把 1M token 推理效率提升到 V3.2 的 10%。
DeepSeek V4
大模型架构
MoE
CSA/HCA 注意力
FP4 量化
mHC
AI 开源
长上下文
腾讯混元 Hy3 正式版深度解析:快慢思考融合的 MoE 架构与开发者实战指南
编程
腾讯混元 Hy3 正式版深度解析:快慢思考融合的 MoE 架构与开发者实战指南
2026-07-07 14:15:18 +0800 CST
view 711
深度解析腾讯混元 Hy3 正式版的技术架构,涵盖 MoE 混合专家、快慢思考融合机制、256K 上下文、Agent 能力等核心特性,并提供 API 调用与 SDK 集成的完整实战指南。
MoE架构
快慢思考
腾讯混元
Hy3
AI大模型
混合专家
Agent
开发者工具
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
4
5
...
18
下一页