程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
ZeroClaw 深度拆解:Rust 重写 AI Agent 网关,10MB 内存如何撑起「多模型 + 多渠道 + 记忆」全栈能力
编程
ZeroClaw 深度拆解:Rust 重写 AI Agent 网关,10MB 内存如何撑起「多模型 + 多渠道 + 记忆」全栈能力
2026-07-30 06:15:15 +0800 CST
view 160
深度拆解 ZeroClaw:100% Rust 实现的 AI Agent 网关,单二进制 3.4MB、内存 <5MB、冷启动 <0.01s,完整覆盖 Trait 驱动架构、28+ Provider、14+ Channel、SQLite 混合记忆、Docker 沙箱安全模型,与 OpenClaw 的功能与性能全面对比。
ZeroClaw
Rust
AI Agent
OpenClaw
物联网
OpenClaw对比
Trait驱动
轻量化
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
编程
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
2026-05-17 10:22:13 +0800 CST
view 653
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
llmfit 深度拆解:一条命令算出你的电脑能跑哪些大模型——硬件感知适配引擎的工程解剖
编程
llmfit 深度拆解:一条命令算出你的电脑能跑哪些大模型——硬件感知适配引擎的工程解剖
2026-07-24 18:44:04 +0800 CST
view 160
深度拆解 GitHub Trending 开源工具 llmfit:四维评分系统、量化自动试探、MoE 精算、带宽速度模型、Plan 模式与 bench 众包校准,从第一性原理讲透本地大模型的硬件适配方法论。
llmfit
本地大模型
LLM
Rust
量化
Ollama
llama.cpp
Apple Silicon
硬件适配
开源
Fincept Terminal 深度解析:GitHub开源的专业级金融分析终端,如何用AI重构金融分析工作流
编程
Fincept Terminal 深度解析:GitHub开源的专业级金融分析终端,如何用AI重构金融分析工作流
2026-05-02 14:35:29 +0800 CST
view 980
深度解析GitHub开源项目Fincept Terminal,一款专业级金融分析终端,介绍其技术架构、核心功能、代码实战及AI驱动金融分析工作流重构
金融分析
AI
开源项目
Fincept Terminal
量化交易
TradingAgents 深度实战:从 78.7k Star 的多智能体交易框架到量化投研工程化完全指南
编程
TradingAgents 深度实战:从 78.7k Star 的多智能体交易框架到量化投研工程化完全指南
2026-05-24 06:38:48 +0800 CST
view 1161
深度拆解 TradingAgents 多智能体交易框架的架构设计,从 LangGraph 状态图编排到结构化辩论机制,完整代码实战指南
AI Agent
量化交易
LangGraph
多智能体
LLM
colibrì 深度拆解:当1300行纯C在25GB笔记本上跑起744B大模型——纯C运行时、MoE稀疏激活与智谱GLM-5.2的工程奇迹(2026)
编程
colibrì 深度拆解:当1300行纯C在25GB笔记本上跑起744B大模型——纯C运行时、MoE稀疏激活与智谱GLM-5.2的工程奇迹(2026)
2026-07-19 09:14:11 +0800 CST
view 906
纯C语言实现的大模型推理引擎,仅用1300行代码在25GB内存笔记本上运行744B参数的GLM-5.2 MoE模型,含完整代码示例与技术解析
C语言
GLM-5.2
MoE
大模型推理
量化
AVX2
MLA注意力
推测解码
Apple Silicon
TradingAgents 深度拆解:当 AI 决定「用多智能体模拟一整家华尔街交易公司」——从 LangGraph 图引擎到多空辩论机制,一个 31.9K Star 的开源框架如何用「七个角色吵出一个交易决策」重新定义金融 AI 的终极形态
编程
TradingAgents 深度拆解:当 AI 决定「用多智能体模拟一整家华尔街交易公司」——从 LangGraph 图引擎到多空辩论机制,一个 31.9K Star 的开源框架如何用「七个角色吵出一个交易决策」重新定义金融 AI 的终极形态
2026-08-05 20:46:07 +0800 CST
view 15
深度拆解TradingAgents多智能体金融交易框架:7个AI角色模拟华尔街交易公司、LangGraph图引擎编排、多空辩论机制、多数据源集成、68.5%准确率,附完整代码实战与生产部署指南
TradingAgents
Multi-Agent
LLM
金融交易
LangGraph
AI Agent
开源
量化交易
多智能体
Tauric Research
River-LLM 深度解析:上交大如何让大模型推理速度翻倍,却几乎不损失精度
编程
River-LLM 深度解析:上交大如何让大模型推理速度翻倍,却几乎不损失精度
2026-05-02 19:05:49 +0800 CST
view 617
深入解析上海交通大学 River-LLM 框架:通过退出层与骨干层共享 KV 缓存,解决早期退出的缓存缺失难题,实现 1.71x-2.16x 推理加速,几乎不损失精度。
LLM
推理优化
KV缓存
早期退出
量化
上海交通大学
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
编程
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
2026-04-12 22:56:41 +0800 CST
view 1068
2026年深度解析 llama.cpp 架构设计与 GGUF 量化格式,从底层原理到工程实战,涵盖 K-Quant/IQ 量化、Flash Attention、KV Cache 优化、Intel NPU/GPU 部署全流程。
llama.cpp
GGUF
量化
大模型
C++
本地部署
NautilusTrader 深度解析:Rust + Python 如何重新定义高性能量化交易引擎——从事件驱动架构到确定性回测的全链路技术实战
编程
NautilusTrader 深度解析:Rust + Python 如何重新定义高性能量化交易引擎——从事件驱动架构到确定性回测的全链路技术实战
2026-05-03 09:24:51 +0800 CST
view 676
深度解析 20K Star 的 NautilusTrader:Rust 内核 + Python 控制面的高性能量化交易引擎。从六边形架构、事件驱动、确定性回测到 Crash-Only Design,附完整代码实战
Rust
Python
量化交易
事件驱动
回测
高频交易
算法交易
PyO3
NautilusTrader
Shimmy 深度解剖:Airframe 引擎与 TurboShimmy INT4 KV——纯 Rust WebGPU 推理如何用 4GB 显存跑起 7B 模型
编程
Shimmy 深度解剖:Airframe 引擎与 TurboShimmy INT4 KV——纯 Rust WebGPU 推理如何用 4GB 显存跑起 7B 模型
2026-07-25 10:15:27 +0800 CST
view 184
深度拆解 Shimmy v2.x 的 Airframe 纯 Rust WebGPU 推理引擎与 TurboShimmy INT4 KV Cache 压缩技术:从 WGSL shader 到 GGUF 模型加载,从跨平台 GPU 适配到 4GB 显存跑 7B 模型的工程真相。
Shimmy
WebGPU
GGUF
LLM推理
Rust
Inference Engine
TurboShimmy
INT4量化
消费级GPU
本地部署
wgpu
WGSL
Airframe
OpenAI API
2026 LLM 推理框架深度拆解:当 vLLM 0.5 决定「让 PagedAttention 吞掉最后一块显存碎片」——从 PagedAttention 到 FlashAttention 3.0,四大推理框架如何用「算子融合 + 量化混合 + 动态批处理」重新定义大模型推理的终极形态
编程
2026 LLM 推理框架深度拆解:当 vLLM 0.5 决定「让 PagedAttention 吞掉最后一块显存碎片」——从 PagedAttention 到 FlashAttention 3.0,四大推理框架如何用「算子融合 + 量化混合 + 动态批处理」重新定义大模型推理的终极形态
2026-08-06 06:16:32 +0800 CST
view 10
深度拆解2026年四大主流LLM推理框架:vLLM 0.5 PagedAttention进化、TGI 2.0流式输出优化、TensorRT-LLM 1.8算子融合、DeepSpeed-MII 0.9自动优化,含完整架构分析、代码实战、性能基准测试与成本计算
LLM
vLLM
TensorRT-LLM
推理框架
PagedAttention
量化
GPU
H100
大模型
DeepSpeed
TGI
2026年端侧AI千亿参数突破深度解析:从量化技术到NPU架构,手机如何跑赢云端大模型
编程
2026年端侧AI千亿参数突破深度解析:从量化技术到NPU架构,手机如何跑赢云端大模型
2026-04-22 03:52:11 +0800 CST
view 811
深度解析2026年端侧AI千亿参数突破的技术原理:从INT4量化到MoE架构,从存算一体NPU到动态内存优化,揭示手机如何跑赢云端大模型的核心工程密码。
AI
端侧AI
大模型
量化
NPU
TradingAgents 深度解析:63K Star 的多智能体金融交易框架——从架构设计到 LLM 协作的全链路技术实战
编程
TradingAgents 深度解析:63K Star 的多智能体金融交易框架——从架构设计到 LLM 协作的全链路技术实战
2026-05-04 07:54:03 +0800 CST
view 551
深度解析 63K Star 的 TradingAgents 多智能体金融交易框架,从架构设计、LLM 协作机制、多空辩论到实战部署的全链路技术实战
TradingAgents
多智能体
LLM
量化交易
LangGraph
金融科技
Python
Moonshine 深度解剖:27M 参数挑战 Whisper——可变长度推理、RoPE 与毫秒级流式延迟的边缘 ASR 工程真相
编程
Moonshine 深度解剖:27M 参数挑战 Whisper——可变长度推理、RoPE 与毫秒级流式延迟的边缘 ASR 工程真相
2026-07-25 13:44:10 +0800 CST
view 130
深度拆解 Moonshine 边缘端语音识别模型:可变长度推理如何免除 Whisper 的 30 秒填充税、RoPE 与卷积波形前端的架构决策、34ms 流式延迟原理,附 Python/ONNX/浏览器三条部署路线与量化调优实战。
Moonshine
语音识别
ASR
Whisper
边缘计算
RoPE
ONNX
INT8量化
流式识别
开源
vLLM 深度解析:LLM 推理性能的终极引擎——从 PagedAttention 到生产级部署的完整技术内幕
编程
vLLM 深度解析:LLM 推理性能的终极引擎——从 PagedAttention 到生产级部署的完整技术内幕
2026-05-18 08:22:35 +0800 CST
view 828
全面解析 vLLM 推理引擎的核心架构,从 PagedAttention 原理到生产级部署实战,涵盖量化推理、多GPU并行、性能调优等完整技术栈
vLLM
LLM推理
PagedAttention
GPU优化
量化推理
深度解析
万字深度解析 DeepSeek V4:当 1.6T 开源模型遇见「架构效率革命」——从 mHC 稳压机制到 CSA/HCA 稀疏注意力、从 FP4 量化到 Muon 优化器的完整技术指南(2026)
编程
万字深度解析 DeepSeek V4:当 1.6T 开源模型遇见「架构效率革命」——从 mHC 稳压机制到 CSA/HCA 稀疏注意力、从 FP4 量化到 Muon 优化器的完整技术指南(2026)
2026-07-02 06:43:56 +0800 CST
view 297
DeepSeek V4 技术架构深度解析:从 mHC 流形约束超连接、CSA/HCA 混合稀疏注意力、FP4 量化感知训练到 Muon 优化器,完整拆解 1.6T 开源模型如何用架构创新把 1M token 推理效率提升到 V3.2 的 10%。
DeepSeek V4
大模型架构
MoE
CSA/HCA 注意力
FP4 量化
mHC
AI 开源
长上下文
把大模型装进机房:Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透(2026)
编程
把大模型装进机房:Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透(2026)
2026-07-14 03:43:32 +0800 CST
view 230
深度拆解 Ollama 本地大模型推理工程化:从 GGUF 量化原理、MoE 专家调度、推理栈与 KV 缓存,到 Modelfile 定制、自量化、Python 客户端、FastAPI 生产服务、Docker 部署与性能调优,配完整可运行代码与 vLLM 对比。
Ollama
本地大模型
llama.cpp
GGUF量化
大模型部署
AI工程化
隐私计算
推理优化
边缘AI推理首次超越云端训练:从模型压缩到NPU优化的全栈技术实战
编程
边缘AI推理首次超越云端训练:从模型压缩到NPU优化的全栈技术实战
2026-07-31 12:14:22 +0800 CST
view 130
深度解析边缘AI推理市场首次超越云端训练的技术突破:W4A16混合精度量化、NPU架构设计、算子融合与KV Cache优化、端云协同架构实战,以及1-bit模型、端侧MoE等前沿趋势。
边缘计算
AI推理
NPU
模型量化
端云协同
万字深度解析 NVIDIA Blackwell 架构:当 GPU 编程遇见「Tile 抽象革命」——从 CUDA 13.1 Python 内核生成到 Blackwell Ultra 30 倍推理加速的完整技术指南(2026)
编程
万字深度解析 NVIDIA Blackwell 架构:当 GPU 编程遇见「Tile 抽象革命」——从 CUDA 13.1 Python 内核生成到 Blackwell Ultra 30 倍推理加速的完整技术指南(2026)
2026-07-02 07:45:18 +0800 CST
view 286
深度解析 NVIDIA Blackwell GPU 架构与 CUDA 13.1 Tile 编程模型,涵盖 FP4 量化、Tensor Core v5、NVLink 5.0、DeepSeek V4 推理优化等核心技术,提供完整 Python 实战代码。
Blackwell
CUDA
GPU编程
AI推理
性能优化
深度学习
并行计算
NVIDIA
量化
Tensor Core
Moonshine 深度解剖:比 Whisper 快 5 倍的端侧语音识别引擎——变长音频、卷积前端、RoPE 与实时流式 ASR 工程实战
编程
Moonshine 深度解剖:比 Whisper 快 5 倍的端侧语音识别引擎——变长音频、卷积前端、RoPE 与实时流式 ASR 工程实战
2026-07-26 01:44:11 +0800 CST
view 147
深度拆解 Moonshine 端侧语音识别引擎:为何扔掉梅尔频谱与30秒定长、直接吃原始波形按变长计算,配合卷积前端与RoPE做到比Whisper快5倍、体积仅27MB。含Python/ONNX推理、Silero VAD实时流式管线、int8量化与端侧部署优化Checklist。
Moonshine
语音识别
ASR
端侧AI
Whisper
流式识别
ONNX
RoPE
模型量化
边缘计算
DwarfStar 4 深度实战:当 Redis 之父手写 AI 推理引擎——从 284B MoE 模型塞进 MacBook 到生产级本地 Agent 的完全指南(2026)
编程
DwarfStar 4 深度实战:当 Redis 之父手写 AI 推理引擎——从 284B MoE 模型塞进 MacBook 到生产级本地 Agent 的完全指南(2026)
2026-06-13 20:17:57 +0800 CST
view 672
Redis之父antirez新作DwarfStar 4深度解析:专为DeepSeek V4 Flash打造的本地推理引擎,非对称2-bit量化、磁盘KV缓存、Metal图执行、分布式推理、方向引导,MacBook上284B模型跑出26 tok/s的完全指南
ds4
DwarfStar
DeepSeek
本地推理
Metal
MoE
量化
KV缓存
A股美股全覆盖!这款开源Python实时股票行情SDK真香
案例
A股美股全覆盖!这款开源Python实时股票行情SDK真香
2026-05-05 19:04:40 +0800 CST
view 1091
TickPlus开源Python行情SDK,支持A股、港股、美股、期货实时行情,历史K线数据,技术指标,五档盘口,适合量化交易者和个人开发者
Python
股票
量化交易
SDK
数据接口
金融科技
TickPlus
Ollama 深度拆解:从傻瓜式本地大模型部署到底层 llama.cpp 调度器的工程全貌(2026·完整版)
编程
Ollama 深度拆解:从傻瓜式本地大模型部署到底层 llama.cpp 调度器的工程全貌(2026·完整版)
2026-07-20 18:18:40 +0800 CST
view 311
深度拆解 Ollama 工程架构:Go 服务层封装 llama.cpp、CGO 内存边界、GGUF 量化格式、Modelfile DSL、OpenAI 兼容层、Metal GPU 加速与生产部署实战,配完整 Go/Python/Shell 代码示例。
Ollama
本地大模型
llama.cpp
GGUF
Go
CGO
量化
Apple Silicon
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
6
7
8
9
10
...
15
下一页