程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
百度 Unlimited OCR 深度解读:R-SWA 如何将 KV Cache 压成常数,5天 GitHub Star 破万的端到端 OCR 新范式
编程
百度 Unlimited OCR 深度解读:R-SWA 如何将 KV Cache 压成常数,5天 GitHub Star 破万的端到端 OCR 新范式
2026-06-27 09:15:20 +0800 CST
view 222
百度开源 Unlimited OCR,5天 GitHub Star 破万。本文深度解析其核心创新 R-SWA(Reference Sliding Window Attention),如何将解码器 KV Cache 从线性增长压成常数,OmniDocBench v1.6 刷榜 SOTA(93.92%),30B 总参/5B 激活,32K 超长上下文,一次前向全稿转录,附完整代码实战。
Unlimited OCR
R-SWA
KV Cache
MoE
端到端 OCR
百度
深度学习
Transformer
文档识别
OCR
EchoChat:Go语言音视频会议直播系统,控制面与媒体面分离架构设计
编程
EchoChat:Go语言音视频会议直播系统,控制面与媒体面分离架构设计
2026-05-14 08:41:45 +0800 CST
view 554
EchoChat是基于Go语言开发的实时音视频会议直播系统,控制面与媒体面分离架构,Go处理信令+mediasoup C++ SFU转发媒体流,uniapp多端适配,支持即时聊天、多人会议、互动直播。
音视频
开源项目
Go
mediasoup
SFU
直播
eBPF 云原生可观测性实战:从 DeepFlow 零侵扰采集到 GreptimeDB 统一存储、从 Cilium 网络观测到 AI Agent 可观测闭环的完全指南(2026)
编程
eBPF 云原生可观测性实战:从 DeepFlow 零侵扰采集到 GreptimeDB 统一存储、从 Cilium 网络观测到 AI Agent 可观测闭环的完全指南(2026)
2026-06-20 05:53:45 +0800 CST
view 483
基于 eBPF 技术构建零侵扰、低成本、统一存储的云原生可观测性流水线,结合 DeepFlow、Cilium、AutoMQ、GreptimeDB 实现 Metrics/Logs/Traces 全栈关联与 AI Agent 可观测闭环。
eBPF
云原生
可观测性
DeepFlow
Cilium
GreptimeDB
AutoMQ
Linux内核
Rust
SpacetimeDB 深度实战:当数据库学会了「吃掉服务器」——从内存计算到实时状态同步的生产级完全指南(2026)
编程
SpacetimeDB 深度实战:当数据库学会了「吃掉服务器」——从内存计算到实时状态同步的生产级完全指南(2026)
2026-06-14 23:49:48 +0800 CST
view 449
SpacetimeDB深度实战:详解数据库即服务器架构、Rust模块开发、BSATN二进制协议、客户端集成与性能优化,附BitCraft Online真实生产案例。
SpacetimeDB
Rust
实时数据库
游戏后端
内存计算
当 Redis 之父遇上 DeepSeek V4 Flash:ds4.c 如何用 900 行代码重写本地大模型推理
编程
当 Redis 之父遇上 DeepSeek V4 Flash:ds4.c 如何用 900 行代码重写本地大模型推理
2026-07-15 18:15:32 +0800 CST
view 299
Redis创始人antirez开源ds4.c:用C语言+Metal GPU手写DeepSeek V4 Flash推理引擎,26 tok/s性能,2-bit MoE量化,KV缓存磁盘分层管理
ds4.c
DeepSeek V4 Flash
Metal推理
Redis之父
MoE量化
KV缓存分层
ds4 深度解析:Redis 作者的最后一战?—— DwarfStar 4 本地推理引擎的技术革命
编程
ds4 深度解析:Redis 作者的最后一战?—— DwarfStar 4 本地推理引擎的技术革命
2026-05-15 17:47:40 +0800 CST
view 956
深入解析 antirez(Redis 作者)新开源项目 ds4:DwarfStar 4 本地推理引擎,专门为 DeepSeek V4 Flash 打造,支持 Metal/CUDA 后端,2-bit 量化可在 96GB 内存 MacBook 上运行 284B 参数模型。
AI推理
本地部署
DeepSeek
Redis
Apple Silicon
CUDA
Metal
MoE
量化
SpacetimeDB 深度实战:当数据库即服务器——从零基础设施到百万级实时应用的架构革命
编程
SpacetimeDB 深度实战:当数据库即服务器——从零基础设施到百万级实时应用的架构革命
2026-06-15 17:52:08 +0800 CST
view 331
SpacetimeDB 是一个用 Rust 编写的关系型数据库,同时也是服务器。你把业务逻辑直接上传到数据库,客户端直接连接执行代码。本文深度解析其核心概念:Reducer、订阅、索引、Procedures,并附带完整的多人游戏后端代码实战。
SpacetimeDB
Rust
数据库
实时应用
游戏开发
架构设计
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
2026-06-10 10:17:56 +0800 CST
view 540
深度解析 vLLM 的核心架构 PagedAttention 和 Continuous Batching,从内存管理原理到生产级分布式部署的完全指南。
vLLM
LLM推理
PagedAttention
GPU优化
大模型部署
AI推理
Qwen3.8 深度拆解:当阿里巴巴用 2.4 万亿参数 MoE 架构决定「干掉所有编程助手」——从 Gated DeltaNet 混合注意力到 100 万上下文 Token 的 Agent-First 大模型工程哲学
编程
Qwen3.8 深度拆解:当阿里巴巴用 2.4 万亿参数 MoE 架构决定「干掉所有编程助手」——从 Gated DeltaNet 混合注意力到 100 万上下文 Token 的 Agent-First 大模型工程哲学
2026-08-04 09:16:35 +0800 CST
view 96
深度拆解阿里巴巴2.4万亿参数Qwen3.8大模型:稀疏MoE架构、Gated DeltaNet混合注意力、100万上下文Token、编程+办公双引擎、完整部署代码与性能基准对比
Qwen3.8
阿里巴巴
MoE
大模型开源
2.4万亿参数
Gated DeltaNet
混合注意力
Agent
编程助手
千问办公
开源模型
vLLM
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
编程
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
2026-06-29 17:16:04 +0800 CST
view 563
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
编程
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
2026-06-29 17:17:00 +0800 CST
view 357
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
PostgreSQL 18 深度拆解:当 OLAP 数据库之王进入全栈内嵌时代——从 AIO 异步 I/O 到虚拟生成列、从 Skip Scan 到 OAuth 2.0 的工程全貌(2026)
编程
PostgreSQL 18 深度拆解:当 OLAP 数据库之王进入全栈内嵌时代——从 AIO 异步 I/O 到虚拟生成列、从 Skip Scan 到 OAuth 2.0 的工程全貌(2026)
2026-07-18 00:17:13 +0800 CST
view 340
深度拆解 PostgreSQL 18 核心技术改进:异步 I/O 子系统(3倍性能提升)、Skip Scan 索引利用、AIO 监控接口、uuidv7() 时间有序 UUID、虚拟生成列、OAuth 2.0 SSO 认证、pg_upgrade 统计信息迁移,配完整代码实战与生产升级指南。
PostgreSQL
OLAP
AIO
Skip Scan
uuidv7
Virtual Generated Column
OAuth2
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
2026-06-11 03:16:24 +0800 CST
view 581
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
编程
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
2026-08-04 19:22:29 +0800 CST
view 115
深度拆解SGLang 27K Star开源LLM推理框架:RadixAttention基数树前缀缓存实现3-8倍加速、自研FlashInfer CUDA Kernel、Prefill-Decode分离架构、GB300 NVL72上25倍性能飞跃、DFlash投机采样、多LoRA热切换,附完整部署与调优指南
SGLang
LLM推理
RadixAttention
FlashInfer
GPU加速
大模型部署
推理引擎
PagedAttention
PD分离
投机采样
CUDA
开源
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
编程
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
2026-06-11 03:17:21 +0800 CST
view 940
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
RedFox:一个 API Key 打通全网自媒体数据,45 个开源 Agent Skill 免费部署
编程
RedFox:一个 API Key 打通全网自媒体数据,45 个开源 Agent Skill 免费部署
2026-06-11 10:35:17 +0800 CST
view 3939
RedFox(红狐数据)把自媒体数据做成标准REST API和开源Agent Skill,一个API Key打通抖音、小红书、公众号等11个主流平台,45个开源Skill让AI编程助手直接调用,省掉90%数据采集维护成本。
RedFox
自媒体数据
API
Agent Skill
Codex
Claude Code
数据采集
抖音
小红书
公众号
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
编程
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
2026-07-24 06:14:45 +0800 CST
view 303
深度对比vLLM与SGLang两大LLM推理引擎:PagedAttention vs RadixAttention,Continuous Batching原理,吞吐与延迟实战选型指南
vLLM
SGLang
LLM推理
PagedAttention
RadixAttention
Continuous Batching
GPU优化
推理引擎
vLLM 深度实战:从 PagedAttention 到 Speculative Decoding——2026年大模型推理引擎内核架构完全指南
编程
vLLM 深度实战:从 PagedAttention 到 Speculative Decoding——2026年大模型推理引擎内核架构完全指南
2026-05-23 18:44:14 +0800 CST
view 666
2026年深度长文,从PagedAttention分页思想、Continuous Batching调度算法、Speculative Decoding并行验证机制到CUDA Kernel底层实现,全面拆解vLLM推理引擎内核架构,附生产级部署实战与框架横向对比。
vLLM
PagedAttention
Continuous Batching
Speculative Decoding
GPU推理
大模型部署
深度学习
CUDA
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
编程
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
2026-05-17 10:21:56 +0800 CST
view 689
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
编程
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
2026-05-17 10:22:13 +0800 CST
view 719
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
Seedance 2.0 Skill OS:AI电影制作人的四模态生产流水线,中英日韩多语言支持
编程
Seedance 2.0 Skill OS:AI电影制作人的四模态生产流水线,中英日韩多语言支持
2026-06-25 18:14:15 +0800 CST
view 386
Seedance 2.0 Skill OS:模块化Agent Skill包,让AI像导演一样驾驭Seedance 2.0视频生成。四模态支持(文本/图像/视频/音频),28子技能+57参考文档+114验证用例,中英日韩俄西六语种原生路径,专业电影制作流程(treatment到交付QC),Volcengine/BytePlus/Runway多平台支持。
Seedance 2.0
AI视频生成
开源
Agent Skill
四模态
电影制作
MCP
多语言
大模型推理引擎 2026 终极对决:vLLM vs SGLang,从 PagedAttention 到 RadixAttention,一次把 LLM 部署讲透(深度实战)
编程
大模型推理引擎 2026 终极对决:vLLM vs SGLang,从 PagedAttention 到 RadixAttention,一次把 LLM 部署讲透(深度实战)
2026-07-13 05:12:59 +0800 CST
view 257
深度对比 vLLM 与 SGLang 两大 LLM 推理引擎:从 KV Cache、PagedAttention、RadixAttention、连续批处理、分块预填充、推测解码、P/D 分离到量化部署,配可直接运行的生产级代码与基准测试。
vLLM
SGLang
LLM推理
大模型部署
PagedAttention
RadixAttention
TigerBeetle 深度拆解:当数据库决定「用 Zig 从零造一个金融交易引擎」——从 Debit/Credit 原语到 VSR 共识,一个声称比传统 OLTP 快 1000 倍的开源数据库如何用「单线程 + 批处理 + io_uring」重新定义金融级事务处理的终极形态
编程
TigerBeetle 深度拆解:当数据库决定「用 Zig 从零造一个金融交易引擎」——从 Debit/Credit 原语到 VSR 共识,一个声称比传统 OLTP 快 1000 倍的开源数据库如何用「单线程 + 批处理 + io_uring」重新定义金融级事务处理的终极形态
2026-08-06 02:47:18 +0800 CST
view 96
深度拆解TigerBeetle:Zig从零构建的金融交易数据库,Debit/Credit原语、VSR共识协议、io_uring存储引擎、单线程批处理架构,1000x OLTP性能提升的技术内幕
TigerBeetle
Zig
OLTP
金融数据库
io_uring
VSR
Debit/Credit
事务处理
开源
性能优化
vLLM 2026 深度解析:从 PagedAttention 到多节点分布式推理的全链路技术实战
编程
vLLM 2026 深度解析:从 PagedAttention 到多节点分布式推理的全链路技术实战
2026-05-03 15:13:07 +0800 CST
view 849
2026年深度解析vLLM核心架构,从PagedAttention进化到多节点分布式推理,涵盖SIG社区组织、v1架构重写、生产部署实战与性能优化全链路指南。
vLLM
PagedAttention
LLM
推理优化
分布式
Kubernetes
Python
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
10
11
12
13
14
...
77
下一页