程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
Unsloth 深度拆解:当 LLM 微调学会「省显存」——2倍速+70%显存节省背后的 QLoRA 工程革命
编程
Unsloth 深度拆解:当 LLM 微调学会「省显存」——2倍速+70%显存节省背后的 QLoRA 工程革命
2026-07-15 17:47:08 +0800 CST
view 195
深度拆解Unsloth技术栈:QLoRA量化原理、4-bit NF4精度机制、Triton内核重写、8-bit Adam优化器、梯度检查点优化,以及从Notebook到Ollama/vLLM生产部署的完整工程路径,含完整代码实战
Unsloth
LLM微调
QLoRA
LoRA
4-bit量化
深度学习
模型训练
Unsloth实战:当QLoRA让27B模型在RTX 4090上跑起来——从Qwen3.5微调到Ollama部署的完整工程链
编程
Unsloth实战:当QLoRA让27B模型在RTX 4090上跑起来——从Qwen3.5微调到Ollama部署的完整工程链
2026-07-15 17:48:36 +0800 CST
view 177
深度拆解Unsloth技术栈:QLoRA量化原理、4-bit NF4精度机制、Triton内核重写、8-bit Adam优化器、梯度检查点优化,以及从Notebook到Ollama/vLLM生产部署的完整工程路径,含完整代码实战
Unsloth
LLM微调
QLoRA
LoRA
4-bit量化
深度学习
模型训练
vLLM 推理引擎源码级拆解:PagedAttention 显存虚拟化、Continuous Batching 调度与量化落地全指南
编程
vLLM 推理引擎源码级拆解:PagedAttention 显存虚拟化、Continuous Batching 调度与量化落地全指南
2026-07-27 03:44:38 +0800 CST
view 142
从显存字节到 CUDA kernel 源码级拆解 vLLM:PagedAttention 分页显存管理、Continuous Batching 连续批处理调度、Prefix Caching 前缀缓存与量化/投机解码实战,附完整代码与生产调参踩坑清单。
vLLM
PagedAttention
大模型推理
KV Cache
显存优化
连续批处理
量化
LLM Serving
当 Redis 之父遇上 DeepSeek V4 Flash:ds4.c 如何用 900 行代码重写本地大模型推理
编程
当 Redis 之父遇上 DeepSeek V4 Flash:ds4.c 如何用 900 行代码重写本地大模型推理
2026-07-15 18:15:32 +0800 CST
view 244
Redis创始人antirez开源ds4.c:用C语言+Metal GPU手写DeepSeek V4 Flash推理引擎,26 tok/s性能,2-bit MoE量化,KV缓存磁盘分层管理
ds4.c
DeepSeek V4 Flash
Metal推理
Redis之父
MoE量化
KV缓存分层
Kronos 深度解析:金融市场基础模型的崛起——从120亿K线数据中炼金的AI革命
编程
Kronos 深度解析:金融市场基础模型的崛起——从120亿K线数据中炼金的AI革命
2026-04-17 15:45:39 +0800 CST
view 905
Kronos是首个开源金融K线基础模型,在45个交易所120亿条数据上预训练,零样本价格预测RankIC提升93%。本文深入解析其Tokenizer架构、预训练范式,并提供代码实战指南。
Kronos
金融AI
基础模型
时间序列
K线
量化交易
LLM 推理优化全景实战:从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命(2026)
编程
LLM 推理优化全景实战:从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命(2026)
2026-05-30 15:42:55 +0800 CST
view 554
深度解析 LLM 推理优化的核心技术:PagedAttention 内存管理革命、投机解码加速策略、INT4/FP8 量化技术、MoE 架构优化,从架构原理到代码实战,让大模型推理成本下降 70%。
LLM
推理优化
vLLM
PagedAttention
投机解码
量化
MoE
ds4 深度解析:Redis 作者的最后一战?—— DwarfStar 4 本地推理引擎的技术革命
编程
ds4 深度解析:Redis 作者的最后一战?—— DwarfStar 4 本地推理引擎的技术革命
2026-05-15 17:47:40 +0800 CST
view 900
深入解析 antirez(Redis 作者)新开源项目 ds4:DwarfStar 4 本地推理引擎,专门为 DeepSeek V4 Flash 打造,支持 Metal/CUDA 后端,2-bit 量化可在 96GB 内存 MacBook 上运行 284B 参数模型。
AI推理
本地部署
DeepSeek
Redis
Apple Silicon
CUDA
Metal
MoE
量化
Qwen3.8-Max 深度拆解:2.4万亿参数的MoE巨兽如何重新定义大模型天花板——从稀疏混合专家到1M上下文的全栈架构哲学
编程
Qwen3.8-Max 深度拆解:2.4万亿参数的MoE巨兽如何重新定义大模型天花板——从稀疏混合专家到1M上下文的全栈架构哲学
2026-08-03 17:14:27 +0800 CST
view 116
深度拆解Qwen3.8-Max 2.4万亿参数MoE大模型架构:稀疏混合专家路由机制、混合注意力1M上下文、GQA KV Cache优化、量化部署实战、vLLM推理优化,附完整代码示例与性能基准分析
Qwen3.8
MoE
大模型
阿里巴巴
通义千问
混合专家
1M上下文
稀疏注意力
量化部署
vLLM
开源
Ollama 本地大模型部署实战:从零到生产级应用的完全指南(2026)
编程
Ollama 本地大模型部署实战:从零到生产级应用的完全指南(2026)
2026-06-10 01:20:57 +0800 CST
view 644
2026年Ollama本地大模型部署完全指南:从架构原理、GGUF量化、ModelFile自定义、多语言集成(Python/JS/Go)、RAG实战到Docker/K8s生产部署,8500字深度长文。
Ollama
本地部署
大模型
LLM
生产级
GGUF
量化
TensorRT-LLM 深度实战:从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命
编程
TensorRT-LLM 深度实战:从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命
2026-05-22 06:19:51 +0800 CST
view 705
深入解析TensorRT-LLM推理框架,从Paged KV Cache、连续批处理到INT4/INT8/FP8量化实战,覆盖Blackwell架构适配、Triton部署与K8s生产方案
TensorRT-LLM
LLM推理
量化
INT4
Blackwell
GPU优化
当 C/C++ 遇上 Rust:llama.cpp 与 LiteBox 深度架构对比——2026 年本地 LLM 推理框架的心智模型之战
编程
当 C/C++ 遇上 Rust:llama.cpp 与 LiteBox 深度架构对比——2026 年本地 LLM 推理框架的心智模型之战
2026-07-16 12:50:04 +0800 CST
view 213
深度对比 llama.cpp 与 LiteBox 两大本地 LLM 推理框架:GGUF 格式设计、K-Quant 量化内核、KV cache 管理、多后端抽象、并发架构,配完整代码实战与性能实测数据。
llama.cpp
LiteBox
GGUF
量化
KV cache
本地LLM
推理框架
Rust
C/C++
模型压缩
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
编程
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
2026-06-15 21:20:49 +0800 CST
view 295
深入解析小米MiMo UltraSpeed如何通过SWA架构在通用GPU上突破1000 tokens/s推理速度,从O(n²)困境到极致跨越的完整技术指南。
SWA
Sliding Window Attention
LLM推理
小米MiMo
推理优化
Transformer
PagedAttention
量化推理
端侧AI
2026 大模型推理优化:TensorRT-LLM v0.19 + Blackwell + 低比特量化实战手册
编程
2026 大模型推理优化:TensorRT-LLM v0.19 + Blackwell + 低比特量化实战手册
2026-04-09 03:15:44 +0800 CST
view 1063
2026年TensorRT-LLM v0.19全面解析:Skip Softmax稀疏注意力、Paged KV Cache显存管理、INT8/INT4低比特量化完整实战,Blackwell架构适配指南,70B模型单卡部署方案
TensorRT-LLM
低比特量化
Blackwell
INT8
INT4
推理优化
NVIDIA
ZeroClaw 深度拆解:3.4MB 二进制、5MB 内存跑起完整 AI Agent,全 Rust「零开销哲学」如何把部署成本打下来 98%
编程
ZeroClaw 深度拆解:3.4MB 二进制、5MB 内存跑起完整 AI Agent,全 Rust「零开销哲学」如何把部署成本打下来 98%
2026-07-28 01:43:22 +0800 CST
view 151
深度拆解全 Rust 开源项目 ZeroClaw:3.4MB 单二进制、<5MB 内存、<10ms 启动的自主 AI 助手基础设施,Trait 驱动插件架构解析、性能数字拆解、树莓派实战部署与生产优化指南。
ZeroClaw
Rust
AI Agent
树莓派
边缘计算
自托管
OpenClaw
轻量化
开源
TileLang + TileKernels 深度解析:DeepSeek 如何用 Python 写出让 GPU 逼近理论性能上限的 GPU 内核
编程
TileLang + TileKernels 深度解析:DeepSeek 如何用 Python 写出让 GPU 逼近理论性能上限的 GPU 内核
2026-04-28 10:55:20 +0800 CST
view 748
深度剖析 DeepSeek 开源的 TileLang DSL 和 TileKernels GPU 内核库:从 GEMM 到 MoE,从 TVM 编译基础设施到生产级量化内核,揭示用 Python 写接近硬件极限性能 GPU 代码的秘密。
TileLang
GPU内核
DeepSeek
高性能计算
CUDA
GEMM
MoE
量化
TVM
开源项目
llama.cpp 深度实战:当 C/C++ 重写遇见端侧 LLM 推理——从 GGUF 量化到 Apple Silicon 38 tokens/s 的生产级完全指南(2026)
编程
llama.cpp 深度实战:当 C/C++ 重写遇见端侧 LLM 推理——从 GGUF 量化到 Apple Silicon 38 tokens/s 的生产级完全指南(2026)
2026-06-16 01:17:28 +0800 CST
view 741
llama.cpp 是端侧 LLM 推理的事实标准(180K+ Stars)。本文从源码架构、GGUF 格式、量化方法、跨平台后端、生产部署、性能优化到 DeepSeek V4 Flash 实战,全方位讲解本地 AI 推理。
llama.cpp
GGUF
量化
端侧推理
本地AI
C/C++
Apple Silicon
Dolt 2.0 深度拆解:当 Git 决定「吞掉 SQL」——从 Prolly 树到向量版本控制,一个 17K Star 的数据库如何重新定义数据管理的终极范式
编程
Dolt 2.0 深度拆解:当 Git 决定「吞掉 SQL」——从 Prolly 树到向量版本控制,一个 17K Star 的数据库如何重新定义数据管理的终极范式
2026-08-04 00:43:09 +0800 CST
view 45
深度拆解Dolt 2.0版本控制型SQL数据库:Prolly树内容寻址架构、自动垃圾回收、归档压缩存储去重、向量版本控制、MySQL兼容协议,附完整代码示例与性能基准对比
Dolt
Git
版本控制
SQL数据库
Prolly树
向量数据库
数据管理
开源
性能优化
MemPalace 深度解析:记忆宫殿架构如何让 AI Agent 告别"金鱼记忆"
编程
MemPalace 深度解析:记忆宫殿架构如何让 AI Agent 告别"金鱼记忆"
2026-06-10 11:48:11 +0800 CST
view 377
深度解析 MemPalace——54k Stars 的开源 AI Agent 记忆系统,用记忆宫殿架构实现 96.6% R@5 召回率,无需 API key 完全本地运行。
AI Agent
MemPalace
记忆系统
MCP
向量检索
LongMemEval
sqlite-vec 深度拆解:用 60KB 二进制把向量搜索塞进 SQLite,这个「零依赖」方案凭什么成为 AI Agent 的记忆引擎
编程
sqlite-vec 深度拆解:用 60KB 二进制把向量搜索塞进 SQLite,这个「零依赖」方案凭什么成为 AI Agent 的记忆引擎
2026-07-28 08:45:18 +0800 CST
view 112
深度拆解 sqlite-vec:60KB 二进制、零依赖的 SQLite 向量搜索扩展,从架构原理、IVF/DiskANN 索引、性能 Benchmark 到完整的 RAG 记忆系统实战代码,解析为什么 OpenClaw、Hermes、claude-mem 都选择了它。
sqlite-vec
向量搜索
SQLite
AI Agent
RAG
Redis 8 深度实战:当 antirez 亲手写下 Vector Set,Redis 如何长成内存里的多模型数据库
编程
Redis 8 深度实战:当 antirez 亲手写下 Vector Set,Redis 如何长成内存里的多模型数据库
2026-07-10 19:43:38 +0800 CST
view 194
深度拆解 Redis 8 的多模型进化:Vector Set 向量检索、原生 JSON、Bloom/Cuckoo/CMS/Top-K/T-Digest 概率结构、TimeSeries 与统一查询引擎,配可运行代码与 RAG 语义缓存实战。
Redis 8
Vector Set
向量数据库
RedisJSON
概率数据结构
RAG
MySQL 9.x VECTOR 实战:开源版没有向量索引也没有 DISTANCE,手把手把 MySQL 改造成 RAG 向量库
编程
MySQL 9.x VECTOR 实战:开源版没有向量索引也没有 DISTANCE,手把手把 MySQL 改造成 RAG 向量库
2026-07-23 05:14:15 +0800 CST
view 142
扒开 MySQL 9.x VECTOR 类型的底:社区版没有向量索引也没有 DISTANCE 函数,手把手用 SQL 预过滤 + NumPy 把 MySQL 改造成可用的 RAG 向量库。
MySQL 9.x
VECTOR 类型
向量检索
RAG
embedding
MySQL 社区版
sqlite-vec 技术深度解析:60KB 零依赖向量搜索,OpenClaw/Hermes/claude-mem 的记忆引擎选型逻辑
编程
sqlite-vec 技术深度解析:60KB 零依赖向量搜索,OpenClaw/Hermes/claude-mem 的记忆引擎选型逻辑
2026-07-28 08:45:41 +0800 CST
view 121
深度拆解 sqlite-vec:60KB 二进制、零依赖的 SQLite 向量搜索扩展,从架构原理、IVF/DiskANN 索引、性能 Benchmark 到完整的 RAG 记忆系统实战代码,解析为什么 OpenClaw、Hermes、claude-mem 都选择了它。
sqlite-vec
向量搜索
SQLite
AI Agent
RAG
RAG-Anything 深度解析:19K Star 的多模态 RAG 终极解决方案,让 AI 真正读懂图文表公式
编程
RAG-Anything 深度解析:19K Star 的多模态 RAG 终极解决方案,让 AI 真正读懂图文表公式
2026-04-28 21:16:14 +0800 CST
view 796
深度解析 GitHub 19K Star 的 RAG-Anything 多模态 RAG 框架:All-in-One 架构设计、MinerU 文档解析、多模态知识图谱、向量-图谱融合检索,完整覆盖从原理到生产部署的技术细节。
RAG
多模态
知识图谱
LightRAG
MinerU
AI
向量检索
文档处理
PostgreSQL 18 深度解析:异步 I/O、向量搜索与数据库克隆如何重塑数据基础设施
编程
PostgreSQL 18 深度解析:异步 I/O、向量搜索与数据库克隆如何重塑数据基础设施
2026-07-05 06:45:30 +0800 CST
view 281
深度解析 PostgreSQL 18 的革命性特性:异步 I/O 子系统实现 3 倍性能提升、向量搜索集成内核、毫秒级数据库克隆技术,以及 UUIDv7 时间有序标识符。包含源码级原理分析、实战代码示例和性能基准测试。
PostgreSQL
数据库
异步I/O
向量搜索
数据库克隆
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
8
9
10
11
12
...
15
下一页