程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
阿里巴巴 ZVec 深度解析:用 C++ 打造进程内向量数据库,为什么说它是向量界的 SQLite?
编程
阿里巴巴 ZVec 深度解析:用 C++ 打造进程内向量数据库,为什么说它是向量界的 SQLite?
2026-04-24 01:13:36 +0800 CST
view 667
阿里巴巴开源的进程内向量数据库 ZVec 深度解析:从架构设计、WAL存储引擎、HNSW/RabitQ索引到RAG实战,对比Chroma/FAISS/Milvus,为什么说它是向量界的SQLite?
ZVec
向量数据库
C++
RabitQ
HNSW
进程内数据库
RAG
Docker AI Toolkit 2026 深度解析:从镜像构建到推理服务,AI 工作流的全链路重构
编程
Docker AI Toolkit 2026 深度解析:从镜像构建到推理服务,AI 工作流的全链路重构
2026-05-14 01:55:02 +0800 CST
view 576
Docker AI Toolkit 2026于2026年3月1日发布,原生支持PyTorch 2.4、TensorFlow 2.17、ONNX Runtime 1.19一键构建,Sigstore签名+OIDC身份绑定防止供应链攻击,docker ai serve --adaptive自适应推理让GPU利用率稳定在80%,LLM微调延迟压至83ms,WASM沙箱让边缘AI应用启动时间<100ms。
Docker,AI Toolkit,PyTorch,TensorFlow,ONNX Runtime,模型签名验证,Sigstore,WASM沙箱,自适应推理
万字深度解析百度 Unlimited OCR:当长文档解析遇见 R-SWA 革命——从常数级 KV Cache 到 40 页一次性识别的完整技术指南(2026)
编程
万字深度解析百度 Unlimited OCR:当长文档解析遇见 R-SWA 革命——从常数级 KV Cache 到 40 页一次性识别的完整技术指南(2026)
2026-07-02 18:16:20 +0800 CST
view 610
深度解析百度 Unlimited OCR 的 R-SWA 参考滑动窗口注意力机制,将 KV Cache 从线性增长压至常数级;3B MoE 解码器架构、DeepEncoder 视觉编码器;完整本地部署代码、KV Cache 监控脚本与 SGLang 生产推理优化指南。OmniDocBench v1.6 综合得分 93.92%,端到端 OCR 新 SOTA。
OCR
R-SWA
KV Cache
MoE
百度
长文档解析
Transformer
深度学习
Python
性能优化
FlashPrefill 深度解析:当瞬时注意力遇上 GPU 原语——从 O(N²) 困境到 27 倍速的工程革命
编程
FlashPrefill 深度解析:当瞬时注意力遇上 GPU 原语——从 O(N²) 困境到 27 倍速的工程革命
2026-04-15 17:20:25 +0800 CST
view 807
深度解析中科院与腾讯微信联合研发的 FlashPrefill 如何通过即时注意力模式发现和动态阈值筛选,将 25.6 万字符长文本处理速度提升 27.78 倍,同时保持近乎完美的精度。
LLM推理优化
FlashAttention
GPU计算
长文本处理
注意力机制
Transformer
深度学习
DFlash 深度解析:块扩散模型如何让 LLM 推理加速 6 倍——2026 投机解码完全指南
编程
DFlash 深度解析:块扩散模型如何让 LLM 推理加速 6 倍——2026 投机解码完全指南
2026-05-28 19:39:07 +0800 CST
view 917
深入解析 DFlash 块扩散投机解码方案:如何让 Qwen3-8B 实现 6 倍无损加速,超越 EAGLE-3 与 llama.cpp,附 SGLang/vLLM/MLX 完整部署指南。
LLM推理
投机解码
块扩散
DFlash
推理加速
Transformer优化
GPU
CUDA
SGLang
vLLM
百度 Unlimited OCR 深度解读:R-SWA 如何将 KV Cache 压成常数,5天 GitHub Star 破万的端到端 OCR 新范式
编程
百度 Unlimited OCR 深度解读:R-SWA 如何将 KV Cache 压成常数,5天 GitHub Star 破万的端到端 OCR 新范式
2026-06-27 09:15:20 +0800 CST
view 234
百度开源 Unlimited OCR,5天 GitHub Star 破万。本文深度解析其核心创新 R-SWA(Reference Sliding Window Attention),如何将解码器 KV Cache 从线性增长压成常数,OmniDocBench v1.6 刷榜 SOTA(93.92%),30B 总参/5B 激活,32K 超长上下文,一次前向全稿转录,附完整代码实战。
Unlimited OCR
R-SWA
KV Cache
MoE
端到端 OCR
百度
深度学习
Transformer
文档识别
OCR
Kimi K2.7 Code 深度实战:当国产开源编程模型把长上下文 Agent 能力拉满——从 1T MoE 架构到 256K 上下文、从 MCP 工具调用到生产级代码助手的完全指南(2026)
编程
Kimi K2.7 Code 深度实战:当国产开源编程模型把长上下文 Agent 能力拉满——从 1T MoE 架构到 256K 上下文、从 MCP 工具调用到生产级代码助手的完全指南(2026)
2026-06-19 16:32:28 +0800 CST
view 700
月之暗面开源 Kimi K2.7 Code 深度解析:1T MoE、256K 上下文、MCP 工具调用、API 与本地部署实战,附完整代码示例。
Kimi
K2.7 Code
Moonshot
代码模型
开源
MySQL 9.0 vs MariaDB 12:开源关系型数据库的架构分水岭——从 InnoDB 核心破格到 ColumnStore 向量革命,深度实测与选型终结指南(2026)
编程
MySQL 9.0 vs MariaDB 12:开源关系型数据库的架构分水岭——从 InnoDB 核心破格到 ColumnStore 向量革命,深度实测与选型终结指南(2026)
2026-07-03 06:44:24 +0800 CST
view 297
深度解析 MySQL 9.0 与 MariaDB 12 的架构差异,从 InnoDB JSON 索引下推、Redo Log 并行化,到 ColumnStore 向量化执行、Galera 极速故障切换,附同环境基准测试数据和完整选型决策树,2026年数据库选型必读长文。
MySQL
MariaDB
数据库
InnoDB
ColumnStore
Galera
开源
性能优化
OLTP
OLAP
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
编程
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
2026-06-27 12:44:29 +0800 CST
view 390
2026年LLM推理引擎深度实战:从PagedAttention、连续批处理、量化技术到生产级K8s部署,万字长文覆盖vLLM、SGLang、TensorRT-LLM、TGI四大框架架构原理与实测对比
LLM推理
vLLM
PagedAttention
SGLang
推理优化
TensorRT-LLM
生产部署
KV Cache
量化
RuView 深度解析:当WiFi信号学会看穿墙壁,4万Star背后的感知革命
编程
RuView 深度解析:当WiFi信号学会看穿墙壁,4万Star背后的感知革命
2026-04-25 06:02:44 +0800 CST
view 1562
深度解析GitHub 4万Star开源项目RuView:用WiFi信号实现人体姿态估计、呼吸心率监测、穿墙检测
RuView
WiFi感知
CSI
Rust
开源
DensePose
人体姿态
ESP32
KV Cache 显存优化深度解析:从 PagedAttention 到 2026 年最新压缩技术演进
编程
KV Cache 显存优化深度解析:从 PagedAttention 到 2026 年最新压缩技术演进
2026-08-01 15:47:00 +0800 CST
view 174
从第一性原理深度剖析 KV Cache 显存困境,系统拆解 PagedAttention 核心原理,对比 vLLM/TensorRT-LLM/SGLang 三大推理框架技术路线,涵盖 FP8/INT4 量化、前缀缓存、StreamingLLM 等 2026 年最新压缩技术,含完整代码示例与生产调优指南。
KV Cache
PagedAttention
vLLM
TensorRT-LLM
SGLang
LLM推理
GPU优化
显存优化
量化
深度学习
微信收款自动通知服务器:不用 Android 开发也能定制自己的 App
编程
微信收款自动通知服务器:不用 Android 开发也能定制自己的 App
2026-06-14 19:44:09 +0800 CST
view 406
基于SmsForwarder开源项目的微信收款自动通知方案,利用安卓通知监听服务20ms转发,无需修改微信/Root/截图,零封号风险,支持GitHub Actions一键定制编译APK。
SmsForwarder
微信收款
通知监听
Android
开源
GitHub Actions
无需Root
短信转发
AI编程
Qdrant 深度实战:当 Rust 遇上向量搜索——从 HNSW 算法到 GPU 加速、从 RAG 流水线到生产级集群部署的完全指南(2026)
编程
Qdrant 深度实战:当 Rust 遇上向量搜索——从 HNSW 算法到 GPU 加速、从 RAG 流水线到生产级集群部署的完全指南(2026)
2026-06-20 05:24:02 +0800 CST
view 442
2026 年,向量数据库已经从「AI 玩具」进化为「生产基础设施」。本文从 HNSW 算法原理、Rust 架构优势、稀疏向量混合检索,到 Python/Go/Rust 客户端实战、RAG 流水线搭建、GPU 加速索引、Docker/K8s 生产部署,全方位拆解 Qdrant 向量数据库。
Qdrant
向量数据库
Rust
RAG
HNSW
GPU加速
Python
机器学习
sqlite-vec 深度实战:当 SQLite 遇见向量搜索,AI 应用的轻量级记忆系统从此有了标准答案(2026)
编程
sqlite-vec 深度实战:当 SQLite 遇见向量搜索,AI 应用的轻量级记忆系统从此有了标准答案(2026)
2026-07-22 01:16:13 +0800 CST
view 200
深度解析 sqlite-vec:一个纯C实现的SQLite向量搜索扩展,让SQLite直接支持语义搜索。涵盖核心架构、HNSW索引原理、SQL API完全指南、Python实战案例(知识库检索系统、AI Agent长期记忆、RAG系统)、性能优化、常见问题解决方案以及LangChain/LlamaIndex生态集成。
sqlite-vec
SQLite
向量搜索
AI应用
语义检索
RAG
Embedding
HNSW
AI Agent
zvec 深度实战:把向量数据库塞进进程里——从 ANN 算法、HNSW 图索引到混合检索与十亿级向量的完整指南(2026)
编程
zvec 深度实战:把向量数据库塞进进程里——从 ANN 算法、HNSW 图索引到混合检索与十亿级向量的完整指南(2026)
2026-07-09 00:48:06 +0800 CST
view 323
阿里巴巴开源的进程内向量数据库 zvec:从余弦相似度、ANN、HNSW 图索引、IVF、乘积量化到混合检索与 RAG 落地的完整工程拆解,附可运行 Python 代码。
向量数据库
ANN
HNSW
zvec
RAG
近似最近邻
MELT架构深度解析:高通如何让AI"深度思考"不再耗尽内存——循环Transformer的内存革命
编程
MELT架构深度解析:高通如何让AI"深度思考"不再耗尽内存——循环Transformer的内存革命
2026-05-19 13:46:15 +0800 CST
view 513
高通AI研究院提出的MELT架构通过门控机制让循环Transformer的内存消耗保持恒定,无论思考多少轮。本文深度解析其架构原理、数学推导、训练策略与性能实测。
AI
Transformer
内存优化
深度推理
高通
Bun 用 Claude 在 6 天内重写 96 万行 Rust:AI 驱动的大规模代码迁移深度解析——从 Zig 到 Rust 的工程实践、unsafe 争议与信任危机
编程
Bun 用 Claude 在 6 天内重写 96 万行 Rust:AI 驱动的大规模代码迁移深度解析——从 Zig 到 Rust 的工程实践、unsafe 争议与信任危机
2026-05-29 06:08:35 +0800 CST
view 802
深度解析 Bun 从 Zig 到 Rust 的 AI 驱动大规模代码迁移:6天96万行代码、13000个unsafe块的争议、社区信任危机与项目出走,以及AI重写软件的方法论与风险
Bun
Rust
Zig
AI编程
代码迁移
unsafe
Claude Code
LLM 推理框架选型实战:vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
编程
LLM 推理框架选型实战:vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
2026-07-03 13:49:04 +0800 CST
view 460
深度对比 vLLM 0.5、TensorRT-LLM 1.8、TGI 2.0、DeepSpeed-MII 0.9 四大推理框架,从核心技术原理、性能数据、成本账本到生产部署实战,帮你做出正确的框架选型决策。
LLM
vLLM
TensorRT-LLM
TGI
DeepSpeed
推理优化
大模型部署
GPU优化
Rust 1.95 深度实战:cfg_select! 宏、let chains 守卫与标准库全面升级,从语言特性到工程落地的完整指南
编程
Rust 1.95 深度实战:cfg_select! 宏、let chains 守卫与标准库全面升级,从语言特性到工程落地的完整指南
2026-04-26 13:44:08 +0800 CST
view 674
Rust 1.95深度解析:cfg_select!宏替代cfg-if、match if let守卫实战、PowerPC内联汇编、标准库API稳定化与兼容性变更,附完整代码示例
Rust
cfg_select
let chains
内联汇编
标准库
跨平台
Rust 1.95 新特性全解:从 cfg_select! 到 match if let 守卫的工程实战
编程
Rust 1.95 新特性全解:从 cfg_select! 到 match if let 守卫的工程实战
2026-04-26 13:44:55 +0800 CST
view 753
Rust 1.95深度解析:cfg_select!宏替代cfg-if、match if let守卫实战、PowerPC内联汇编、标准库API稳定化与兼容性变更,附完整代码示例
Rust
cfg_select
let chains
内联汇编
标准库
跨平台
Unsloth 深度拆解:当 LLM 微调学会「省显存」——2倍速+70%显存节省背后的 QLoRA 工程革命
编程
Unsloth 深度拆解:当 LLM 微调学会「省显存」——2倍速+70%显存节省背后的 QLoRA 工程革命
2026-07-15 17:47:08 +0800 CST
view 242
深度拆解Unsloth技术栈:QLoRA量化原理、4-bit NF4精度机制、Triton内核重写、8-bit Adam优化器、梯度检查点优化,以及从Notebook到Ollama/vLLM生产部署的完整工程路径,含完整代码实战
Unsloth
LLM微调
QLoRA
LoRA
4-bit量化
深度学习
模型训练
Unsloth实战:当QLoRA让27B模型在RTX 4090上跑起来——从Qwen3.5微调到Ollama部署的完整工程链
编程
Unsloth实战:当QLoRA让27B模型在RTX 4090上跑起来——从Qwen3.5微调到Ollama部署的完整工程链
2026-07-15 17:48:36 +0800 CST
view 227
深度拆解Unsloth技术栈:QLoRA量化原理、4-bit NF4精度机制、Triton内核重写、8-bit Adam优化器、梯度检查点优化,以及从Notebook到Ollama/vLLM生产部署的完整工程路径,含完整代码实战
Unsloth
LLM微调
QLoRA
LoRA
4-bit量化
深度学习
模型训练
稀疏注意力架构革命:2026年长上下文大模型核心技术解析
编程
稀疏注意力架构革命:2026年长上下文大模型核心技术解析
2026-07-09 08:45:09 +0800 CST
view 399
深入解析2026年稀疏注意力技术革命,涵盖SubCube、CSA/HCA、MSA三大架构的技术原理、代码实现与实战指南,探讨长上下文大模型的最新发展。
AI
大模型
Transformer
稀疏注意力
LongContext
DeepSeek
MiniMax
TriAttention深度解析:MIT韩松团队如何用三角函数让单卡4090跑出百万Token上下文
编程
TriAttention深度解析:MIT韩松团队如何用三角函数让单卡4090跑出百万Token上下文
2026-04-17 10:15:58 +0800 CST
view 707
2026年4月,MIT、英伟达、浙江大学联合发布TriAttention,用三角函数建模注意力距离偏好,实现KV缓存10.7倍压缩,让单卡4090跑出百万Token上下文。
AI
大模型
Transformer
注意力机制
KV缓存
长上下文
模型优化
论文解读
2026
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
9
10
11
12
13
...
80
下一页