程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
稀疏注意力架构革命:2026年长上下文大模型核心技术解析
编程
稀疏注意力架构革命:2026年长上下文大模型核心技术解析
2026-07-09 08:45:09
view 460
深入解析2026年稀疏注意力技术革命,涵盖SubCube、CSA/HCA、MSA三大架构的技术原理、代码实现与实战指南,探讨长上下文大模型的最新发展。
AI
大模型
Transformer
稀疏注意力
LongContext
DeepSeek
MiniMax
KTransformers 深度拆解:单张 4090 跑满血 DeepSeek-R1 671B,清华团队如何用 CPU/GPU 异构推理实现 28 倍加速
编程
KTransformers 深度拆解:单张 4090 跑满血 DeepSeek-R1 671B,清华团队如何用 CPU/GPU 异构推理实现 28 倍加速
2026-07-29 09:44:03
view 292
深度拆解清华开源的 KTransformers:MoE 稀疏性卸载、AMX/Marlin 高性能算子、CUDA Graph 与 YAML 注入框架四层架构,单张 4090 跑满血 DeepSeek-R1 671B,附完整部署实战与性能调优清单。
KTransformers
异构推理
MoE
DeepSeek
AMX
CUDA Graph
大模型部署
性能优化
开源
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
编程
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
2026-07-24 07:44:31
view 285
KTransformers 通过 CPU/GPU 异构计算,让一块 RTX 5090(32GB 显存)能跑起 100B+ MoE 大模型,且无需量化压缩,保持原精度 FP16。实测比 llama.cpp Q8_0 快 4.5 倍。本文深度拆解其专家细粒度卸载、异步预取、DMA 优化等核心技术,以及实战部署指南。
KTransformers
LLM推理
MoE
异构计算
DeepSeek
SGLang
CPU Offload
本地部署
GPU优化
Kimi K3 深度拆解:2.8万亿参数开源MoE霸主的工程革命,从注意力机制到Infra全链路解析
编程
Kimi K3 深度拆解:2.8万亿参数开源MoE霸主的工程革命,从注意力机制到Infra全链路解析
2026-07-29 07:45:23
view 362
深度拆解 Kimi K3:2.8万亿参数开源MoE霸主的完整架构解析,涵盖 KDA 注意力机制、Stable LatentMoE、FlashKDA 高性能算子、MoonEP 通信库、AgentENV 训练沙箱,附代码实战与性能评测。
Kimi K3
MoE架构
KDA
Attention Residuals
FlashKDA
AgentENV
MoonEP
开源大模型
长上下文
代码生成
Kimi K3 架构深度拆解:从 Attention 演进到工程落地的全链路解析
编程
Kimi K3 架构深度拆解:从 Attention 演进到工程落地的全链路解析
2026-07-30 07:44:52
view 247
深入解析 Kimi K3 的三大架构创新:KDA 混合线性注意力、Attention Residuals 和 Stable LatentMoE,配有代码示例和工程分析。
Kimi
K3
MoE
线性注意力
Attention Residuals
Stable LatentMoE
大模型架构
Kimi K3 深度拆解:2.8万亿参数开源MoE旗舰的架构革命与工程极限
编程
Kimi K3 深度拆解:2.8万亿参数开源MoE旗舰的架构革命与工程极限
2026-07-31 09:42:32
view 296
深度拆解 Kimi K3 的三项核心架构创新:KDA 混合线性注意力、Attention Residuals、Stable LatentMoE。涵盖 O(n) 长上下文建模原理、极端稀疏 MoE 工程实践、FlashKDA 高性能 CUDA 优化、MoonEP 通信库,以及 2.8T 参数的显存墙分析与 Ollama/vLLM 本地部署指南。
Kimi K3
Moonshot AI
MoE
大模型
开源
KDA
Attention Residuals
Stable LatentMoE
深度学习
编程Agent
2.8万亿参数、896专家、1M上下文:Kimi K3技术架构深度解析与工程能力全面评估
编程
2.8万亿参数、896专家、1M上下文:Kimi K3技术架构深度解析与工程能力全面评估
2026-07-21 18:15:42
view 443
深度解析 Kimi K3 的 Stable LatentMoE 稀疏架构、KDA 混合线性注意力、Attention Residuals 跨层检索机制,评估其在软件工程任务(前端编程、芯片设计)中的实际能力,对比 DeepSeek V4、GLM-5.2、Claude Fable 5 等竞品
Kimi K3
MoE
Stable LatentMoE
KDA
Attention Residuals
长上下文
开源大模型
百万token
用 Obsidian + Claude 整了个 AI 记忆外挂:claude-obsidian 深度测评
编程
用 Obsidian + Claude 整了个 AI 记忆外挂:claude-obsidian 深度测评
2026-07-04 16:22:16
view 574
claude-obsidian是GitHub上8.5K Stars的开源AI知识引擎,将PDF/文本自动整理为wiki知识图谱,hot.md持久化跨会话记忆,autoresearch三轮自主研究+归档,支持PARA/LYT/Zettelkasten四种知识组织方法论,MIT协议数据不锁死。
Obsidian
Claude
AI第二大脑
知识图谱
claude-obsidian
hot缓存
autoresearch
PARA
LYT
Zettelkasten
Markdown
MIT
开源
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
编程
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
2026-07-30 21:49:19
view 216
深度拆解 LLM 推理服务的七层优化栈:PagedAttention 分页显存与写时复制、连续批处理消灭队头阻塞、前缀缓存命中率实操、Chunked Prefill 与 PD 分离决策、KV Cache 分层复用的拉取/重算临界点、投机解码加速比数学与失效场景、量化与并行选型。附大量可运行代码、压测骨架、调优顺序与七个常见误区。
LLM推理
vLLM
SGLang
PagedAttention
PD分离
KV Cache
前缀缓存
投机解码
Chunked Prefill
性能优化
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
编程
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
2026-07-07 16:15:25
view 217
深入解析2026年大模型推理中的KV Cache优化技术栈:从PagedAttention虚拟分页管理、Prefix Caching缓存复用、Speculative Decoding并行验证,到INT8量化与Continuous Batching生产实践,配合代码示例与性能对比,助你系统性掌握LLM推理优化的核心要领。
LLM
KV Cache
PagedAttention
Prefix Caching
vLLM
推理优化
Speculative Decoding
Kimi K3 架构深度解析:从第一性原理吃透 2.8 万亿参数 MoE 模型的三层核心创新
编程
Kimi K3 架构深度解析:从第一性原理吃透 2.8 万亿参数 MoE 模型的三层核心创新
2026-08-01 14:17:55
view 351
深度解析 Kimi K3 的三大架构创新:KDA 混合线性注意力、Attention Residuals 注意力残差、Stable LatentMoE 分位数均衡路由,从第一性原理配代码示例吃透 2.8 万亿参数 MoE 模型。
Kimi
K3
MoE
KDA
AttnRes
StableLatentMoE
LLM
开源大模型
2026年AI架构突破全景解析:从 Kimi Attention Residuals 到存算一体——告别参数内卷,走向效率革命
编程
2026年AI架构突破全景解析:从 Kimi Attention Residuals 到存算一体——告别参数内卷,走向效率革命
2026-05-30 09:40:11
view 959
深度解析2026年AI架构五大突破:Attention Residuals、存算一体、多模态原生、自我学习、量子AI,从算法到硬件全方位革新
AI架构
Attention Residuals
存算一体
量子AI
多模态原生
OpenScreen 深度解析:当开源撕掉屏幕录制的高价标签,开发者终于不用再被 Screen Studio 收割
编程
OpenScreen 深度解析:当开源撕掉屏幕录制的高价标签,开发者终于不用再被 Screen Studio 收割
2026-04-10 02:23:58
view 1335
深入解析OpenScreen:26K Stars的GitHub开源录屏工具,用Electron+FFmpeg技术栈复现Screen Studio全部核心功能,包括自动缩放、运动模糊、背景虚化等。跨平台支持macOS/Windows/Linux,完全免费开源。
OpenScreen
Screen Studio
Electron
FFmpeg
开源录屏
桌面应用
TypeScript
Context Engineering:超越 Prompt Engineering 的 AI 工程新范式
编程
Context Engineering:超越 Prompt Engineering 的 AI 工程新范式
2026-07-05 01:47:09
view 301
深入探讨Context Engineering的核心概念、架构设计、上下文压缩技术和生产环境最佳实践。
AI工程
Context Engineering
Prompt Engineering
大模型
上下文管理
Little Snitch for Linux 开源深度解析:当 macOS 传奇防火墙「杀入」Linux 生态
编程
Little Snitch for Linux 开源深度解析:当 macOS 传奇防火墙「杀入」Linux 生态
2026-04-10 00:25:47
view 853
2026年4月8日Objective Development开源Little Snitch for Linux的eBPF核心代码。本文从源码出发,深度拆解其架构设计、过滤引擎算法、eBPF内核空间实现与用户态程序。
Linux
eBPF
网络安全
Rust
Firewall
Little Snitch
AI Agent 支付革命:x402 协议与 Cloudflare Wallets 如何重构「智能体互联网」的经济底层
编程
AI Agent 支付革命:x402 协议与 Cloudflare Wallets 如何重构「智能体互联网」的经济底层
2026-08-14 10:43:55
view 160
深度拆解x402协议与Cloudflare Wallets:AI Agent如何通过HTTP 402状态码和双层钱包架构完成真实支付,从协议原理到生产级集成代码,从安全模型到生态案例,重构智能体互联网的经济底层。
x402
Cloudflare Wallets
AI Agent
智能体经济
HTTP 402
支付协议
USDC
智能体互联网
从 HTTP 402 到 Cloudflare Wallets:AI Agent 为何需要自己的支付基础设施
编程
从 HTTP 402 到 Cloudflare Wallets:AI Agent 为何需要自己的支付基础设施
2026-08-14 10:44:15
view 267
深度拆解x402协议与Cloudflare Wallets:AI Agent如何通过HTTP 402状态码和双层钱包架构完成真实支付,从协议原理到生产级集成代码,从安全模型到生态案例,重构智能体互联网的经济底层。
x402
Cloudflare Wallets
AI Agent
智能体经济
HTTP 402
支付协议
USDC
智能体互联网
Loop Engineering(循环工程)万字深度解析:2026年最火的AI开发范式——从Prompt到自主循环的系统架构革命
编程
Loop Engineering(循环工程)万字深度解析:2026年最火的AI开发范式——从Prompt到自主循环的系统架构革命
2026-06-30 17:12:21
view 518
2026年6月AI圈最火的新概念:Loop Engineering(循环工程)万字深度解析。从Prompt Engineering到自主循环的四代范式跃迁,六块积木核心架构拆解,完整代码实战与Token优化策略
Loop Engineering
AI Agent
Prompt Engineering
自动化
AI开发
万字拆解 Loop Engineering:当 AI 开发从写提示词进化到设计循环系统——2026年最值得掌握的编程范式
编程
万字拆解 Loop Engineering:当 AI 开发从写提示词进化到设计循环系统——2026年最值得掌握的编程范式
2026-06-30 17:13:12
view 422
2026年6月AI圈最火的新概念:Loop Engineering(循环工程)万字深度解析。从Prompt Engineering到自主循环的四代范式跃迁,六块积木核心架构拆解,完整代码实战与Token优化策略
Loop Engineering
AI Agent
Prompt Engineering
自动化
AI开发
Loop Engineering 完全指南:从 Prompt 设计者到循环架构师的范式跃迁——当 AI 编程进入系统设计时代(2026)
编程
Loop Engineering 完全指南:从 Prompt 设计者到循环架构师的范式跃迁——当 AI 编程进入系统设计时代(2026)
2026-07-04 14:44:21
view 553
万字深度解析 Loop Engineering:2026年AI编程新范式,从Claude Code /loop到openloop开源框架,从五种循环模式到生成器-评估器-规划器三体架构,从成本模型到生产级部署,完整技术指南。
Loop Engineering
AI编程
Claude Code
循环工程
Agent
Prompt Engineering
系统设计
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
编程
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
2026-06-30 11:16:18
view 408
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
编程
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
2026-06-30 11:17:15
view 496
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
编程
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
2026-06-27 12:44:29
view 438
2026年LLM推理引擎深度实战:从PagedAttention、连续批处理、量化技术到生产级K8s部署,万字长文覆盖vLLM、SGLang、TensorRT-LLM、TGI四大框架架构原理与实测对比
LLM推理
vLLM
PagedAttention
SGLang
推理优化
TensorRT-LLM
生产部署
KV Cache
量化
KV Cache 显存优化深度解析:从 PagedAttention 到 2026 年最新压缩技术演进
编程
KV Cache 显存优化深度解析:从 PagedAttention 到 2026 年最新压缩技术演进
2026-08-01 15:47:00
view 258
从第一性原理深度剖析 KV Cache 显存困境,系统拆解 PagedAttention 核心原理,对比 vLLM/TensorRT-LLM/SGLang 三大推理框架技术路线,涵盖 FP8/INT4 量化、前缀缓存、StreamingLLM 等 2026 年最新压缩技术,含完整代码示例与生产调优指南。
KV Cache
PagedAttention
vLLM
TensorRT-LLM
SGLang
LLM推理
GPU优化
显存优化
量化
深度学习
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
python
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
上一页
1
...
6
7
8
9
10
...
107
下一页