程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
River-LLM 深度解析:上交大如何让大模型推理速度翻倍,却几乎不损失精度
编程
River-LLM 深度解析:上交大如何让大模型推理速度翻倍,却几乎不损失精度
2026-05-02 19:05:49 +0800 CST
view 609
深入解析上海交通大学 River-LLM 框架:通过退出层与骨干层共享 KV 缓存,解决早期退出的缓存缺失难题,实现 1.71x-2.16x 推理加速,几乎不损失精度。
LLM
推理优化
KV缓存
早期退出
量化
上海交通大学
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
编程
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
2026-04-12 22:56:41 +0800 CST
view 1050
2026年深度解析 llama.cpp 架构设计与 GGUF 量化格式,从底层原理到工程实战,涵盖 K-Quant/IQ 量化、Flash Attention、KV Cache 优化、Intel NPU/GPU 部署全流程。
llama.cpp
GGUF
量化
大模型
C++
本地部署
NautilusTrader 深度解析:Rust + Python 如何重新定义高性能量化交易引擎——从事件驱动架构到确定性回测的全链路技术实战
编程
NautilusTrader 深度解析:Rust + Python 如何重新定义高性能量化交易引擎——从事件驱动架构到确定性回测的全链路技术实战
2026-05-03 09:24:51 +0800 CST
view 667
深度解析 20K Star 的 NautilusTrader:Rust 内核 + Python 控制面的高性能量化交易引擎。从六边形架构、事件驱动、确定性回测到 Crash-Only Design,附完整代码实战
Rust
Python
量化交易
事件驱动
回测
高频交易
算法交易
PyO3
NautilusTrader
colibrì 深度拆解:1300行纯C代码驱动7440亿参数大模型——当「不可能」变成「只是慢」
编程
colibrì 深度拆解:1300行纯C代码驱动7440亿参数大模型——当「不可能」变成「只是慢」
2026-07-19 14:42:08 +0800 CST
view 334
深度拆解 colibrì 项目:一位意大利开发者用 10 天、1300 行纯 C 代码,在 25GB 笔记本上运行 7440 亿参数大模型的工程全貌。涵盖 MoE 稀疏推理、NVMe 流式专家、MLA 注意力、MTP 推测解码等核心技术的完整解析。
C语言
MoE
大模型
NVMe
量化
GPU
深度学习
GLM-5.2
推理引擎
推测解码
Shimmy 深度解剖:Airframe 引擎与 TurboShimmy INT4 KV——纯 Rust WebGPU 推理如何用 4GB 显存跑起 7B 模型
编程
Shimmy 深度解剖:Airframe 引擎与 TurboShimmy INT4 KV——纯 Rust WebGPU 推理如何用 4GB 显存跑起 7B 模型
2026-07-25 10:15:27 +0800 CST
view 168
深度拆解 Shimmy v2.x 的 Airframe 纯 Rust WebGPU 推理引擎与 TurboShimmy INT4 KV Cache 压缩技术:从 WGSL shader 到 GGUF 模型加载,从跨平台 GPU 适配到 4GB 显存跑 7B 模型的工程真相。
Shimmy
WebGPU
GGUF
LLM推理
Rust
Inference Engine
TurboShimmy
INT4量化
消费级GPU
本地部署
wgpu
WGSL
Airframe
OpenAI API
PostgreSQL + DuckDB 一库多态:向量化执行引擎融合架构深度解析
编程
PostgreSQL + DuckDB 一库多态:向量化执行引擎融合架构深度解析
2026-07-25 11:15:36 +0800 CST
view 104
2026年7月腾讯云PostgreSQL正式上线DuckDB引擎,实现OLTP与OLAP在单一实例内无缝融合。本文从架构原理、源码级实现、性能调优三个维度,深度剖析向量化执行引擎融合方案的技术真相。
PostgreSQL
DuckDB
数据库
OLAP
向量化
列式存储
DuckDB 嵌入 PostgreSQL:向量化 OLAP 引擎融合实战与架构解析
编程
DuckDB 嵌入 PostgreSQL:向量化 OLAP 引擎融合实战与架构解析
2026-07-25 11:16:33 +0800 CST
view 109
2026年7月腾讯云PostgreSQL正式上线DuckDB引擎,一库多态融合OLTP与OLAP。本文深度解析向量化执行引擎的架构原理、源码实现与生产调优实战。
PostgreSQL
DuckDB
数据库
OLAP
向量化
列式存储
2026年端侧AI千亿参数突破深度解析:从量化技术到NPU架构,手机如何跑赢云端大模型
编程
2026年端侧AI千亿参数突破深度解析:从量化技术到NPU架构,手机如何跑赢云端大模型
2026-04-22 03:52:11 +0800 CST
view 798
深度解析2026年端侧AI千亿参数突破的技术原理:从INT4量化到MoE架构,从存算一体NPU到动态内存优化,揭示手机如何跑赢云端大模型的核心工程密码。
AI
端侧AI
大模型
量化
NPU
DuckDB 深度实战:当分析型数据库塞进一个进程——从向量化执行引擎、零拷贝 Arrow 到 1.5.0 VARIANT/GEOMETRY 的生产级完整指南(2026)
编程
DuckDB 深度实战:当分析型数据库塞进一个进程——从向量化执行引擎、零拷贝 Arrow 到 1.5.0 VARIANT/GEOMETRY 的生产级完整指南(2026)
2026-07-20 02:44:29 +0800 CST
view 216
深度拆解 DuckDB 进程内分析型数据库:从向量化执行引擎、列存零拷贝、HashAggregate/Join 原理,到 Python 实战、Nginx 日志 BI、1.5.0 VARIANT/GEOMETRY 与性能调优的完整工程指南。
DuckDB
OLAP
数据分析
向量化执行
列存数据库
Parquet
Python
TradingAgents 深度解析:63K Star 的多智能体金融交易框架——从架构设计到 LLM 协作的全链路技术实战
编程
TradingAgents 深度解析:63K Star 的多智能体金融交易框架——从架构设计到 LLM 协作的全链路技术实战
2026-05-04 07:54:03 +0800 CST
view 543
深度解析 63K Star 的 TradingAgents 多智能体金融交易框架,从架构设计、LLM 协作机制、多空辩论到实战部署的全链路技术实战
TradingAgents
多智能体
LLM
量化交易
LangGraph
金融科技
Python
DuckDB 1.5.0 "Variegata" 深度解析:嵌入式分析数据库的性能巅峰
编程
DuckDB 1.5.0 "Variegata" 深度解析:嵌入式分析数据库的性能巅峰
2026-05-12 08:14:38 +0800 CST
view 662
深度解析DuckDB 1.5.0核心新特性:VARIANT数据类型支持半结构化数据、GEOMETRY空间数据类型成为内置类型、SIMD指令集深度优化使聚合查询性能提升3-5倍、全新CLI客户端提升开发体验、DuckLake v1.0湖仓一体格式支持,附物联网与电商实战案例与性能Benchmark
DuckDB 1.5
嵌入式分析
OLAP
VARIANT类型
GEOMETRY空间数据
SIMD优化
向量化执行
DuckLake
Moonshine 深度解剖:27M 参数挑战 Whisper——可变长度推理、RoPE 与毫秒级流式延迟的边缘 ASR 工程真相
编程
Moonshine 深度解剖:27M 参数挑战 Whisper——可变长度推理、RoPE 与毫秒级流式延迟的边缘 ASR 工程真相
2026-07-25 13:44:10 +0800 CST
view 119
深度拆解 Moonshine 边缘端语音识别模型:可变长度推理如何免除 Whisper 的 30 秒填充税、RoPE 与卷积波形前端的架构决策、34ms 流式延迟原理,附 Python/ONNX/浏览器三条部署路线与量化调优实战。
Moonshine
语音识别
ASR
Whisper
边缘计算
RoPE
ONNX
INT8量化
流式识别
开源
DuckDB 1.5.5深度解析:向量化执行引擎如何重新定义OLAP游戏规则
编程
DuckDB 1.5.5深度解析:向量化执行引擎如何重新定义OLAP游戏规则
2026-07-25 14:12:44 +0800 CST
view 174
深入解析DuckDB 1.5.5版本的向量化执行引擎原理、pg_duckdb集成实战、性能调优与ClickHouse选型对比
DuckDB
OLAP
向量化
pg_duckdb
数据库
数据分析
Qdrant 向量数据库深度实战:从 HNSW 索引、标量量化到混合检索与 RAG 生产落地的完整工程指南(2026)
编程
Qdrant 向量数据库深度实战:从 HNSW 索引、标量量化到混合检索与 RAG 生产落地的完整工程指南(2026)
2026-07-20 07:13:11 +0800 CST
view 186
2026 年 Qdrant 向量数据库深度实战:从 HNSW 索引、标量量化、稠密/稀疏/多向量到混合检索与生产级 RAG 落地的完整工程指南,附可运行代码。
Qdrant
向量数据库
RAG
混合检索
HNSW
标量量化
Embedding
BGE-M3
ClickHouse 深度实战:当列式存储成为实时分析引擎——从 MergeTree 引擎家族、向量化执行到分布式查询与生产级落地的完整工程指南(2026)
编程
ClickHouse 深度实战:当列式存储成为实时分析引擎——从 MergeTree 引擎家族、向量化执行到分布式查询与生产级落地的完整工程指南(2026)
2026-07-20 07:43:40 +0800 CST
view 252
2026年ClickHouse深度实战:从列式存储与MergeTree引擎家族、向量化执行、ClickHouse Keeper到分布式查询,配Python/Go代码实战、物化视图与性能调优的完整工程指南。
ClickHouse
OLAP
列式存储
MergeTree
向量化执行
实时分析
物化视图
DuckDB 深度实战:当分析引擎塞进进程里——从向量化执行到湖仓一体的技术革命(2026)
编程
DuckDB 深度实战:当分析引擎塞进进程里——从向量化执行到湖仓一体的技术革命(2026)
2026-07-14 03:13:19 +0800 CST
view 213
深度拆解 DuckDB 1.5.4:从 in-process OLAP 定位、向量化列存执行引擎、与 Pandas 零拷贝互操作,到直读 Parquet/S3/Iceberg、Postgres 外表、全文与向量检索、DuckLake 湖仓与 Quack 客户端服务,配完整可运行代码与性能优化实战。
DuckDB
OLAP
数据分析
向量化执行
湖仓一体
SQLite
Parquet
Python
编程
MarkItDown 深度拆解:当微软把文档预处理做到极致——161K Star 的 LLM 预处理层工程全貌(2026·完整版)
2026-07-20 11:50:12 +0800 CST
view 231
2026年深度拆解微软开源项目 MarkItDown:161K Star 的文档转 Markdown 神器,从插件化架构、20+格式处理机制到生产级 RAG 流水线集成的完整工程指南,配可运行代码示例。
MarkItDown
Python
LLM
RAG
文档处理
微软
开源
Markdown
PDF
Word
Excel
OCR
向量化
万字深度解析 DeepSeek V4:当 1.6T 开源模型遇见「架构效率革命」——从 mHC 稳压机制到 CSA/HCA 稀疏注意力、从 FP4 量化到 Muon 优化器的完整技术指南(2026)
编程
万字深度解析 DeepSeek V4:当 1.6T 开源模型遇见「架构效率革命」——从 mHC 稳压机制到 CSA/HCA 稀疏注意力、从 FP4 量化到 Muon 优化器的完整技术指南(2026)
2026-07-02 06:43:56 +0800 CST
view 291
DeepSeek V4 技术架构深度解析:从 mHC 流形约束超连接、CSA/HCA 混合稀疏注意力、FP4 量化感知训练到 Muon 优化器,完整拆解 1.6T 开源模型如何用架构创新把 1M token 推理效率提升到 V3.2 的 10%。
DeepSeek V4
大模型架构
MoE
CSA/HCA 注意力
FP4 量化
mHC
AI 开源
长上下文
把大模型装进机房:Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透(2026)
编程
把大模型装进机房:Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透(2026)
2026-07-14 03:43:32 +0800 CST
view 222
深度拆解 Ollama 本地大模型推理工程化:从 GGUF 量化原理、MoE 专家调度、推理栈与 KV 缓存,到 Modelfile 定制、自量化、Python 客户端、FastAPI 生产服务、Docker 部署与性能调优,配完整可运行代码与 vLLM 对比。
Ollama
本地大模型
llama.cpp
GGUF量化
大模型部署
AI工程化
隐私计算
推理优化
边缘AI推理首次超越云端训练:从模型压缩到NPU优化的全栈技术实战
编程
边缘AI推理首次超越云端训练:从模型压缩到NPU优化的全栈技术实战
2026-07-31 12:14:22 +0800 CST
view 108
深度解析边缘AI推理市场首次超越云端训练的技术突破:W4A16混合精度量化、NPU架构设计、算子融合与KV Cache优化、端云协同架构实战,以及1-bit模型、端侧MoE等前沿趋势。
边缘计算
AI推理
NPU
模型量化
端云协同
万字深度解析 NVIDIA Blackwell 架构:当 GPU 编程遇见「Tile 抽象革命」——从 CUDA 13.1 Python 内核生成到 Blackwell Ultra 30 倍推理加速的完整技术指南(2026)
编程
万字深度解析 NVIDIA Blackwell 架构:当 GPU 编程遇见「Tile 抽象革命」——从 CUDA 13.1 Python 内核生成到 Blackwell Ultra 30 倍推理加速的完整技术指南(2026)
2026-07-02 07:45:18 +0800 CST
view 279
深度解析 NVIDIA Blackwell GPU 架构与 CUDA 13.1 Tile 编程模型,涵盖 FP4 量化、Tensor Core v5、NVLink 5.0、DeepSeek V4 推理优化等核心技术,提供完整 Python 实战代码。
Blackwell
CUDA
GPU编程
AI推理
性能优化
深度学习
并行计算
NVIDIA
量化
Tensor Core
DuckDB 深度实战:当嵌入式数据库进化为分析引擎——从向量化执行到湖仓一体、Quack 协议与生产级完全指南(2026)
编程
DuckDB 深度实战:当嵌入式数据库进化为分析引擎——从向量化执行到湖仓一体、Quack 协议与生产级完全指南(2026)
2026-06-18 19:24:32 +0800 CST
view 474
DuckDB 1.5 深度实战:从向量化执行引擎到底层存储架构,从 Parquet 直查到 Quack 协议,从 Python 集成到生产级部署,52000 字完全指南。
DuckDB
OLAP
数据分析
嵌入式数据库
向量化执行
Parquet
Python
Moonshine 深度解剖:比 Whisper 快 5 倍的端侧语音识别引擎——变长音频、卷积前端、RoPE 与实时流式 ASR 工程实战
编程
Moonshine 深度解剖:比 Whisper 快 5 倍的端侧语音识别引擎——变长音频、卷积前端、RoPE 与实时流式 ASR 工程实战
2026-07-26 01:44:11 +0800 CST
view 128
深度拆解 Moonshine 端侧语音识别引擎:为何扔掉梅尔频谱与30秒定长、直接吃原始波形按变长计算,配合卷积前端与RoPE做到比Whisper快5倍、体积仅27MB。含Python/ONNX推理、Silero VAD实时流式管线、int8量化与端侧部署优化Checklist。
Moonshine
语音识别
ASR
端侧AI
Whisper
流式识别
ONNX
RoPE
模型量化
边缘计算
DwarfStar 4 深度实战:当 Redis 之父手写 AI 推理引擎——从 284B MoE 模型塞进 MacBook 到生产级本地 Agent 的完全指南(2026)
编程
DwarfStar 4 深度实战:当 Redis 之父手写 AI 推理引擎——从 284B MoE 模型塞进 MacBook 到生产级本地 Agent 的完全指南(2026)
2026-06-13 20:17:57 +0800 CST
view 655
Redis之父antirez新作DwarfStar 4深度解析:专为DeepSeek V4 Flash打造的本地推理引擎,非对称2-bit量化、磁盘KV缓存、Metal图执行、分布式推理、方向引导,MacBook上284B模型跑出26 tok/s的完全指南
ds4
DwarfStar
DeepSeek
本地推理
Metal
MoE
量化
KV缓存
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
4
5
6
7
下一页