程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
万字深度解析百度 Unlimited OCR:当 R-SWA 注意力机制让端到端 OCR 一次性解析数十页文档——从架构设计到生产级部署完整指南(2026)
编程
万字深度解析百度 Unlimited OCR:当 R-SWA 注意力机制让端到端 OCR 一次性解析数十页文档——从架构设计到生产级部署完整指南(2026)
2026-07-01 15:43:34 +0800 CST
view 288
2026年6月百度开源Unlimited OCR深度解析:R-SWA参考滑动窗口注意力机制将KV Cache压为常数,3B参数(500M激活)在OmniDocBench以93.92%刷新SOTA,单次解析40+页文档。从架构设计到生产级部署完整技术指南。
Unlimited-OCR
R-SWA
百度
端到端OCR
大模型
MoE
DeepEncoder
性能优化
开源项目
Python
百度 Unlimited OCR 深度解读:R-SWA 如何将 KV Cache 压成常数,5天 GitHub Star 破万的端到端 OCR 新范式
编程
百度 Unlimited OCR 深度解读:R-SWA 如何将 KV Cache 压成常数,5天 GitHub Star 破万的端到端 OCR 新范式
2026-06-27 09:15:20 +0800 CST
view 214
百度开源 Unlimited OCR,5天 GitHub Star 破万。本文深度解析其核心创新 R-SWA(Reference Sliding Window Attention),如何将解码器 KV Cache 从线性增长压成常数,OmniDocBench v1.6 刷榜 SOTA(93.92%),30B 总参/5B 激活,32K 超长上下文,一次前向全稿转录,附完整代码实战。
Unlimited OCR
R-SWA
KV Cache
MoE
端到端 OCR
百度
深度学习
Transformer
文档识别
OCR
vLLM 推理引擎源码级拆解:PagedAttention 显存虚拟化、Continuous Batching 调度与量化落地全指南
编程
vLLM 推理引擎源码级拆解:PagedAttention 显存虚拟化、Continuous Batching 调度与量化落地全指南
2026-07-27 03:44:38 +0800 CST
view 163
从显存字节到 CUDA kernel 源码级拆解 vLLM:PagedAttention 分页显存管理、Continuous Batching 连续批处理调度、Prefix Caching 前缀缓存与量化/投机解码实战,附完整代码与生产调参踩坑清单。
vLLM
PagedAttention
大模型推理
KV Cache
显存优化
连续批处理
量化
LLM Serving
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
编程
vLLM V1 深度拆解:当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
2026-08-03 09:43:58 +0800 CST
view 117
深度拆解vLLM V1引擎四大核心架构:PagedAttention V2融合块表与前缀树缓存、分离式推理Prefill/Decode架构、KV Connector标准化接口、LMCache三层KV Cache管理,附完整部署配置与性能基准测试
vLLM
PagedAttention
LMCache
分离式推理
大模型推理
KV Cache
推理引擎
LLM Serving
GPU优化
开源
百度 Unlimited OCR 深度解析:R-SWA 如何让长文档 OCR 从"逐页煎熬"走向"一次搞定"
编程
百度 Unlimited OCR 深度解析:R-SWA 如何让长文档 OCR 从"逐页煎熬"走向"一次搞定"
2026-06-28 14:13:06 +0800 CST
view 443
深度解析百度 Unlimited OCR 的 R-SWA 参考滑动窗口注意力机制,如何将 KV Cache 从线性增长压到常数,使长文档 OCR 性能恒定不衰减。含完整架构分析、训练配方、性能基准和实战代码。
Unlimited OCR
R-SWA
OCR
端到端
百度
文档识别
KV Cache
MoE
DeepEncoder
长文档处理
WorldMonitor 深度拆解:一个人写出的「全球态势感知室」——500+ 信源、双地图引擎与 60+ Edge Function 的无后端架构
编程
WorldMonitor 深度拆解:一个人写出的「全球态势感知室」——500+ 信源、双地图引擎与 60+ Edge Function 的无后端架构
2026-07-28 16:45:43 +0800 CST
view 178
深度拆解 GitHub Trending 项目 WorldMonitor:500+信源AI聚合、CII国家不稳定指数算法、globe.gl+deck.gl双地图引擎、60+ Edge Function无后端架构、Tauri 2桌面端与MCP Agent生态,附完整代码实战与冷思考。
WorldMonitor
OSINT
deck.gl
Tauri
Edge Function
态势感知
开源
TypeScript
MCP
Transformers.js
WebAssembly 运行时 2026 深度解析:WasmEdge vs Wasmtime vs Wasmer 性能对比与云原生实践
编程
WebAssembly 运行时 2026 深度解析:WasmEdge vs Wasmtime vs Wasmer 性能对比与云原生实践
2026-05-12 08:48:38 +0800 CST
view 909
深度解析三大WebAssembly运行时性能对比:WasmEdge冷启动3ms内存64MB适合边缘AI、Wasmtime冷启动2ms安全隔离最强适合Serverless、Wasmer跨平台支持10+语言SDK。附Docker+Wasm混合架构实战与性能Benchmark。
WebAssembly
Wasm
WasmEdge
Wasmtime
Wasmer
云原生
Google AI Edge Gallery 深度实战:让 Mac/Android 离线运行 Gemma 3——从原理到生产级本地 AI 部署完全指南(2026)
编程
Google AI Edge Gallery 深度实战:让 Mac/Android 离线运行 Gemma 3——从原理到生产级本地 AI 部署完全指南(2026)
2026-06-04 21:14:37 +0800 CST
view 514
深入剖析 Google AI Edge Gallery 的技术架构、Gemma 模型家族、端侧部署全流程,并通过完整代码示例,带你从零构建一个生产级本地 AI 应用。
Google AI Edge Gallery
本地AI
Gemma模型
端侧推理
Mac AI
Android AI
GraphQL Federation 3.0 深度实战:当API聚合遇见超级图革命,从架构原理到生产级网关部署完全指南
编程
GraphQL Federation 3.0 深度实战:当API聚合遇见超级图革命,从架构原理到生产级网关部署完全指南
2026-07-02 15:52:36 +0800 CST
view 281
深度解析 GraphQL Federation 3.0 的架构原理、超级图设计模式、生产级部署与性能优化,含完整代码实战
GraphQL
Federation
API网关
微服务
Apollo
后端架构
Trae 深度解析:字节跳动如何用 AI 原生 IDE 重新定义程序员的工作流
编程
Trae 深度解析:字节跳动如何用 AI 原生 IDE 重新定义程序员的工作流
2026-04-27 17:24:18 +0800 CST
view 840
从 MarsCode 到 Trae 2.0,字节跳动的 AI 编程工具经历了怎样的进化?SOLO 模式、Tab-Cue 引擎、多智能体调度——这些底层技术究竟如何运作?本文从架构设计到代码实战,全面拆解这款 2026 年最炙手可热的 AI 原生 IDE。
Trae
AI IDE
字节跳动
AI编程
SOLO模式
Tab-Cue
多智能体
Builder模式
Seed模型
豆包
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
案例
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
2026-05-10 08:40:22 +0800 CST
view 813
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎ds4.c,C+Metal从头编写,Mac Studio M3 Ultra上预填充468 token/s。关键优化:非对称量化(MoE专家层2-bit)、KV缓存搬硬盘、内置OpenAI/Anthropic双API。128GB Mac可跑,专为coding agent优化。
DeepSeek
AI推理
Mac
Redis
antirez
Metal
本地推理
MoE
GGUF
C语言
Apple Silicon
Claude Code
OpenAI API
Anthropic API
RedFox:一个 API Key 打通全网自媒体数据,45 个开源 Agent Skill 免费部署
编程
RedFox:一个 API Key 打通全网自媒体数据,45 个开源 Agent Skill 免费部署
2026-06-11 10:35:17 +0800 CST
view 3695
RedFox(红狐数据)把自媒体数据做成标准REST API和开源Agent Skill,一个API Key打通抖音、小红书、公众号等11个主流平台,45个开源Skill让AI编程助手直接调用,省掉90%数据采集维护成本。
RedFox
自媒体数据
API
Agent Skill
Codex
Claude Code
数据采集
抖音
小红书
公众号
万字深度解析百度 Unlimited-OCR:当端到端OCR遇见R-SWA革命,从逐页失忆到40页文档一口气解析(2026)
编程
万字深度解析百度 Unlimited-OCR:当端到端OCR遇见R-SWA革命,从逐页失忆到40页文档一口气解析(2026)
2026-07-02 10:46:07 +0800 CST
view 276
深度解析百度2026年开源的Unlimited-OCR模型:3B参数的端到端OCR系统,R-SWA机制实现常数级KV缓存,OmniDocBench 93.92% SOTA评分,可一口气解析40页文档
Unlimited-OCR
百度
OCR
R-SWA
MoE
CLIP
端到端
长文档处理
深度学习
多模态
R-SWA如何让OCR「过目不忘」:百度Unlimited-OCR的KV缓存革命与40页长文档解析实战(2026)
编程
R-SWA如何让OCR「过目不忘」:百度Unlimited-OCR的KV缓存革命与40页长文档解析实战(2026)
2026-07-02 10:47:12 +0800 CST
view 366
深度解析百度2026年开源的Unlimited-OCR模型:3B参数的端到端OCR系统,R-SWA机制实现常数级KV缓存,OmniDocBench 93.92% SOTA评分,可一口气解析40页文档
Unlimited-OCR
百度
OCR
R-SWA
MoE
CLIP
端到端
长文档处理
深度学习
多模态
Graphify 深度解析:当 AI 终于学会「把混乱变成图谱」
编程
Graphify 深度解析:当 AI 终于学会「把混乱变成图谱」
2026-04-09 07:07:53 +0800 CST
view 1601
Graphify深度解析:71.5倍Token压缩、多模态理解、零服务器依赖的Claude Code知识工程利器
Graphify
Knowledge Graph
Claude Code
AI Agent
GraphRAG
PicoClaw 深度拆解:10 美元硬件跑完整 AI Agent,Go 重写如何把内存从 1GB+ 压到 10MB
编程
PicoClaw 深度拆解:10 美元硬件跑完整 AI Agent,Go 重写如何把内存从 1GB+ 压到 10MB
2026-07-31 02:45:50 +0800 CST
view 135
深度拆解矽速科技开源的 PicoClaw:Go 重写让 AI Agent 内存占用从 1GB+ 压到 10MB,10 美元 RISC-V 开发板即可运行。含云端推理本地协调架构、Markdown 技能系统、部署实战、GOMEMLIMIT 调优与安全加固指南。
PicoClaw
Go
AI Agent
边缘计算
RISC-V
嵌入式
开源
Sipeed
本地优先的 AI 记忆系统 MemPalace:从零构建语义记忆层,让 AI 记住你的一切
编程
本地优先的 AI 记忆系统 MemPalace:从零构建语义记忆层,让 AI 记住你的一切
2026-04-24 14:18:14 +0800 CST
view 754
深入解析开源 AI 记忆系统 MemPalace,96.6% R@5 零 API 召回率背后的工程实现,wing/room/drawer 架构、混合检索、知识图谱与 Claude Code 集成完整指南
AI记忆
MemPalace
语义检索
Claude Code
向量数据库
Knowledge Graph
Python
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
编程
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
2026-07-24 06:14:45 +0800 CST
view 271
深度对比vLLM与SGLang两大LLM推理引擎:PagedAttention vs RadixAttention,Continuous Batching原理,吞吐与延迟实战选型指南
vLLM
SGLang
LLM推理
PagedAttention
RadixAttention
Continuous Batching
GPU优化
推理引擎
vLLM 深度实战:从 PagedAttention 到 Speculative Decoding——2026年大模型推理引擎内核架构完全指南
编程
vLLM 深度实战:从 PagedAttention 到 Speculative Decoding——2026年大模型推理引擎内核架构完全指南
2026-05-23 18:44:14 +0800 CST
view 645
2026年深度长文,从PagedAttention分页思想、Continuous Batching调度算法、Speculative Decoding并行验证机制到CUDA Kernel底层实现,全面拆解vLLM推理引擎内核架构,附生产级部署实战与框架横向对比。
vLLM
PagedAttention
Continuous Batching
Speculative Decoding
GPU推理
大模型部署
深度学习
CUDA
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
编程
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
2026-05-17 10:21:56 +0800 CST
view 661
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
编程
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
2026-05-17 10:22:13 +0800 CST
view 692
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
vLLM 深度拆解:当 KV Cache 学会「分页」——用操作系统智慧重写 LLM 推理的心智模型
编程
vLLM 深度拆解:当 KV Cache 学会「分页」——用操作系统智慧重写 LLM 推理的心智模型
2026-07-15 10:13:07 +0800 CST
view 206
深度拆解 vLLM 核心架构:从 PagedAttention 分页内存管理、Continuous Batching 动态调度,到 Speculative Decoding、Prefix Caching 等高级特性,配完整代码示例与生产部署指南。
vLLM
PagedAttention
LLM推理
深度学习
GPU优化
Continuous Batching
Milvus 向量数据库深度实战:从零构建生产级 RAG 系统——AI 时代语义检索的架构设计与性能优化
编程
Milvus 向量数据库深度实战:从零构建生产级 RAG 系统——AI 时代语义检索的架构设计与性能优化
2026-05-22 18:14:42 +0800 CST
view 595
深入解析 Milvus 向量数据库的核心原理与架构设计,从向量嵌入、ANN 算法到 RAG 系统实战,涵盖生产环境性能优化技巧,助你构建企业级 AI 应用。
向量数据库
Milvus
RAG
AI
语义检索
向量检索
Embedding
HNSW
ANN
向量数据库全景深度解析:2026 年 AI 原生应用的核心基础设施——从 ANN 算法到生产级部署的完整指南
编程
向量数据库全景深度解析:2026 年 AI 原生应用的核心基础设施——从 ANN 算法到生产级部署的完整指南
2026-06-30 12:25:17 +0800 CST
view 321
2026 年向量数据库已成为 AI 应用的核心基础设施。本文深度解析 ANN 算法(HNSW、IVF+PQ、LSH、Annoy)、主流向量数据库(Milvus、Chroma、Qdrant、Pinecone、LanceDB、pgvector)全景对比、性能基准测试、代码实战、生产级部署方案、性能优化技巧,以及未来发展趋势。
向量数据库
Vector Database
AI应用
RAG
语义搜索
Milvus
Chroma
Qdrant
Pinecone
LanceDB
pgvector
ANN算法
HNSW
IVF
PQ
Faiss
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
6
7
8
9
10
...
126
下一页