本地大模型-程序员茄子

DeepSeek V4 深度技术解析：从 MoE 架构到百万上下文的生产级实战指南
2026-07-08 01:51:46 +0800 CST view 27
深度解析DeepSeek V4的MoE架构、DSA稀疏注意力、百万Token上下文、国产算力适配等核心技术，配完整API接入代码与成本优化指南
DeepSeek-V4 MoE架构 DSA稀疏注意力大模型 AI编程开源模型百万上下文华为昇腾

端侧大模型深度解析：当AI走出云端、住进你的手机——从千亿参数到4B模型的边缘智能革命

编程

端侧大模型深度解析：当AI走出云端、住进你的手机——从千亿参数到4B模型的边缘智能革命
2026-04-15 21:23:26 +0800 CST view 565
2026年端侧大模型技术深度解析：从千亿参数云端模型到4B端侧模型的工程革命，涵盖量化、蒸馏、架构优化与Mano-P实战案例
端侧大模型边缘AI 模型量化知识蒸馏 Mano-P GUI智能体 TinyML AI手机

DFlash 深度实战：当扩散模型遇上推测解码——从原理到生产级 LLM 推理加速完全指南（2026）

编程

DFlash 深度实战：当扩散模型遇上推测解码——从原理到生产级 LLM 推理加速完全指南（2026）
2026-06-06 01:38:49 +0800 CST view 416
DFlash（Block Diffusion for Flash Speculative Decoding）是ZLab于2026年提出的LLM推理加速框架，用块扩散模型替代传统自回归草稿模型，实现6倍以上无损加速。
LLM推理加速推测解码扩散模型块扩散 DFlash ZLab 大模型优化

TriAttention深度解析：MIT韩松团队如何用三角函数让单卡4090跑出百万Token上下文

编程

TriAttention深度解析：MIT韩松团队如何用三角函数让单卡4090跑出百万Token上下文
2026-04-17 10:15:58 +0800 CST view 558
2026年4月，MIT、英伟达、浙江大学联合发布TriAttention，用三角函数建模注意力距离偏好，实现KV缓存10.7倍压缩，让单卡4090跑出百万Token上下文。
AI 大模型 Transformer 注意力机制 KV缓存长上下文模型优化论文解读 2026

OpenRouter Fusion 深度实战：当「群殴战术」打破 AI 智商天花板——从多模型并行分发到裁判聚合引擎的全栈架构解析

编程

OpenRouter Fusion 深度实战：当「群殴战术」打破 AI 智商天花板——从多模型并行分发到裁判聚合引擎的全栈架构解析
2026-06-20 14:56:09 +0800 CST view 240
深度解析 OpenRouter Fusion 的多模型并行分发与裁判聚合引擎架构，从原理、代码实战、性能基准到生产落地，全面拆解"群殴战术"如何打破 AI 智商天花板。
AI OpenRouter Fusion 多模型 MCP Agent 大模型架构设计

GLM-5.2 深度实战：当开源编程模型首次摸到 Opus 4.8 的天花板——从 753B MoE 架构到 1M 无损上下文、从 DSA 稀疏注意力到国产算力 Day-0 部署的生产级完全指南（2026）

编程

GLM-5.2 深度实战：当开源编程模型首次摸到 Opus 4.8 的天花板——从 753B MoE 架构到 1M 无损上下文、从 DSA 稀疏注意力到国产算力 Day-0 部署的生产级完全指南（2026）
2026-06-20 15:52:19 +0800 CST view 365
GLM-5.2 开源深度解析：753B MoE 架构、1M 无损上下文、DSA 稀疏注意力、生产级部署完全指南
AI 开源模型 GLM 智谱编程工具 MoE 大模型

Kimi K2.6开源：13小时编码与300子Agent集群，国产大模型抢滩长程编程高地

编程

Kimi K2.6开源：13小时编码与300子Agent集群，国产大模型抢滩长程编程高地
2026-04-27 14:52:59 +0800 CST view 723
深度解析月之暗面开源的Kimi K2.6模型：13小时不间断编码、300子Agent集群协作、5天自主运行的技术架构与实测案例分析
Kimi K2.6 开源模型长程编程 AI Agent 国产大模型 Moonshot AI Agent集群编程助手

MemPalace 深度实战：当 AI Agent 遇见「记忆宫殿」——从本地优先架构到 96.6% 召回率的生产级完全指南（2026）

编程

MemPalace 深度实战：当 AI Agent 遇见「记忆宫殿」——从本地优先架构到 96.6% 召回率的生产级完全指南（2026）
2026-06-16 03:46:31 +0800 CST view 181
MemPalace 深度实战：本地优先的 AI 记忆系统，96.6% R@5 召回率，33 个 MCP 工具，零 API Key，完全开源
AI Agent 记忆系统 MemPalace 本地优先 RAG

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心

编程

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心
2026-04-28 18:27:20 +0800 CST view 697
基于Docker的自托管图片编辑器SnapOtter：45+工具、REST API接入AI Agent、本地AI修图（OCR/背景移除/高清化）、数据永久存NAS。海康智存部署教程。
Docker NAS 图片处理 AI修图本地部署 REST API OpenClaw Hermes

Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎，Mac上跑出468 token/s

案例

Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎，Mac上跑出468 token/s
2026-05-10 08:40:22 +0800 CST view 662
Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎ds4.c，C+Metal从头编写，Mac Studio M3 Ultra上预填充468 token/s。关键优化：非对称量化（MoE专家层2-bit）、KV缓存搬硬盘、内置OpenAI/Anthropic双API。128GB Mac可跑，专为coding agent优化。
DeepSeek AI推理 Mac Redis antirez Metal 本地推理 MoE GGUF C语言 Apple Silicon Claude Code OpenAI API Anthropic API

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱

编程

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱
2026-04-10 05:35:25 +0800 CST view 603
Rowboat 是一个带长期记忆的开源 AI 同事，自动构建知识图谱，支持会议准备、文档生成、承诺追踪，采用本地优先架构，完全透明可控。
AI Agent 知识图谱开源工具本地优先生产力工具

OpenClaw 深度解析：重塑个人 AI 助手范式的开源架构革命——从 Gateway 到 Skill 生态的全链路技术拆解

编程

OpenClaw 深度解析：重塑个人 AI 助手范式的开源架构革命——从 Gateway 到 Skill 生态的全链路技术拆解
2026-06-30 03:44:16 +0800 CST view 176
深度解析OpenClaw个人AI助手框架：从Gateway控制面、多通道消息路由、Skill技能生态、MCP协议集成、安全模型、会话管理到生产级部署，附完整代码示例与架构决策分析。
OpenClaw 个人AI助手开源AI AI Agent MCP协议 Gateway架构 Skill生态多通道接入本地部署 AI自动化

ds4 深度实战：当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南

编程

ds4 深度实战：当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南
2026-06-11 07:51:35 +0800 CST view 328
Redis之父antirez新作ds4深度解析：非对称2-bit量化、KV缓存磁盘持久化、Metal极致优化，284B模型在MacBook上跑出26 tok/s的完全指南
ds4 DeepSeek 本地推理 Metal KV缓存量化 antirez Redis

oMLX 深度实战：当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南（2026）

编程

oMLX 深度实战：当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南（2026）
2026-06-22 17:24:05 +0800 CST view 316
oMLX 是专为 Apple Silicon 优化的 LLM 推理服务器，通过连续批处理、分层 KV Cache、MLX 后端加速和 macOS 菜单栏管理，让本地 AI 推理从可用走向实用。
LLM Apple Silicon MLX 本地推理 MCP

llama.cpp 深度实战：从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能

编程

llama.cpp 深度实战：从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
2026-05-23 17:18:22 +0800 CST view 1719
2026年深度拆解 llama.cpp 的核心架构：GGUF 格式原理、20+量化方法对比、KV Cache 优化、多硬件后端性能实测，与 Ollama/vLLM 完整横评。
llama.cpp GGUF 量化 CUDA Metal LLM推理 C++ 本地部署性能优化 GGML

Ollama深度解析：Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南

编程

Ollama深度解析：Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
2026-07-06 05:48:17 +0800 CST view 54
深度解析Ollama本地LLM推理引擎架构与实战
Ollama 本地推理 LLM Go llama.cpp GGUF GPU Modelfile

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案

编程

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案
2026-05-11 09:23:06 +0800 CST view 472
Goose 是由 Block 开源、现已捐献给 Linux 基金会 AAIF 的本地 AI 编程代理。最新版本 v1.32.0（2026年5月6日）支持 Exa AI 搜索、桌面通知、@agent 协作、/skills 命令、自动压缩上下文、语音听写等功能。Rust 开发，支持 MCP 协议，可连接任何 LLM（OpenAI、Ollama、Kimi Code 等），完全本地运行无需订阅。
Goose AI编程本地LLM MCP Rust Linux基金会 Block

OpenClaw 深度解析：30万星开源 AI Agent 框架的技术内核——从 Gateway 到 Memory 的完整架构革命

编程

OpenClaw 深度解析：30万星开源 AI Agent 框架的技术内核——从 Gateway 到 Memory 的完整架构革命
2026-06-30 16:44:48 +0800 CST view 117
2026年最火爆的开源项目，30万Star背后的技术密码。万字长文拆解Gateway、Agent、Skills、Memory四大核心模块，从架构原理到代码实战全覆盖。
OpenClaw AI Agent Gateway Skills Memory 开源框架人工智能本地优先

MemPalace 深度实战：当记忆宫殿遇上 AI Agent——从 2000 年前认知术到 96.6% 召回率的本地记忆系统完全指南（2026）

编程

MemPalace 深度实战：当记忆宫殿遇上 AI Agent——从 2000 年前认知术到 96.6% 召回率的本地记忆系统完全指南（2026）
2026-06-12 15:20:19 +0800 CST view 358
从 2000 年前古希腊记忆术到 96.6% R@5 的 AI 本地记忆系统，深度解析 MemPalace 的 Wing/Room/Drawer 架构、可插拔后端设计与 MCP 集成实践
AI记忆 MemPalace MCP 向量检索 RAG 本地部署 Python AI Agent

3MB就能跑PostgreSQL：PGlite如何用WebAssembly彻底改变前端数据库生态

编程

3MB就能跑PostgreSQL：PGlite如何用WebAssembly彻底改变前端数据库生态
2026-05-11 17:27:19 +0800 CST view 391
PGlite将完整PostgreSQL编译为WebAssembly，在浏览器里跑真正的数据库。3MB gzip、无依赖、完整SQL支持、ACID事务、pgvector向量搜索。本文深度解析PGlite技术架构，并从零构建本地优先AI笔记应用实战。
PGlite PostgreSQL WebAssembly 前端数据库 WASM 本地优先 pgvector

ds4 深度解析：当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解

编程

ds4 深度解析：当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解
2026-06-12 18:19:08 +0800 CST view 303
深度解析 Redis 之父 antirez 最新开源项目 ds4（DwarfStar）：一个纯 C 语言手写的 DeepSeek V4 Flash 本地推理引擎。从「窄而深」的工程哲学、非对称 2-bit 量化、磁盘 KV 缓存、Metal/CUDA 内核优化到实际部署，完整拆解这个 13K+ Star 项目的技术内幕。
AI推理引擎 DeepSeek 本地推理系统编程开源项目 C语言

Lucebox 深度解析：9.56L 铝合金盒子如何用 RTX 3090 + Ryzen AI MAX+ 395 的 128GB 统一内存 + DFlash 推测解码 + 自研 CUDA 内核让消费级硬件实现 4-6 倍云端推理加速——从硬件架构到开源推理引擎 lucebox-hub 的完整实战指南

编程

Lucebox 深度解析：9.56L 铝合金盒子如何用 RTX 3090 + Ryzen AI MAX+ 395 的 128GB 统一内存 + DFlash 推测解码 + 自研 CUDA 内核让消费级硬件实现 4-6 倍云端推理加速——从硬件架构到开源推理引擎 lucebox-hub 的完整实战指南
2026-07-07 00:44:30 +0800 CST view 53
深度解析Lucebox本地AI推理盒子：9.56L铝合金机身塞入RTX 3090+Ryzen AI MAX+ 395的128GB统一内存，配合自研DFlash推测解码和CUDA内核优化，在消费级硬件上实现4-6倍推理加速。从硬件架构到开源引擎lucebox-hub的完整实战指南。
Lucebox 本地推理 AI Agent 推测解码 CUDA RTX 3090 Ryzen AI MAX 开源

heartmorrow：开源本地 AI 恋爱模拟游戏，豆包智能体的平替方案

编程

heartmorrow：开源本地 AI 恋爱模拟游戏，豆包智能体的平替方案
2026-07-07 09:13:00 +0800 CST view 41
开源本地AI恋爱模拟游戏，LLM驱动+规则引擎harness，七维关系数值、记忆系统、社交图、手机系统，数据全部本地存储，豆包智能体平替。
AI 开源游戏恋爱模拟本地部署 LLM 豆包智能体

大家都在搜索什么？

devops 易支付一个官网+多少钱统一接受回调统一回调 sub node 宝塔日志 mysql shell ElasticSearch css vue api接口对接 2025 支付接口对接 go php php回调回调

AI,自己全程接管维护

DeepSeek V4 深度技术解析：从 MoE 架构到百万上下文的生产级实战指南

端侧大模型深度解析：当AI走出云端、住进你的手机——从千亿参数到4B模型的边缘智能革命

DFlash 深度实战：当扩散模型遇上推测解码——从原理到生产级 LLM 推理加速完全指南（2026）

TriAttention深度解析：MIT韩松团队如何用三角函数让单卡4090跑出百万Token上下文

OpenRouter Fusion 深度实战：当「群殴战术」打破 AI 智商天花板——从多模型并行分发到裁判聚合引擎的全栈架构解析

GLM-5.2 深度实战：当开源编程模型首次摸到 Opus 4.8 的天花板——从 753B MoE 架构到 1M 无损上下文、从 DSA 稀疏注意力到国产算力 Day-0 部署的生产级完全指南（2026）

Kimi K2.6开源：13小时编码与300子Agent集群，国产大模型抢滩长程编程高地

MemPalace 深度实战：当 AI Agent 遇见「记忆宫殿」——从本地优先架构到 96.6% 召回率的生产级完全指南（2026）

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心

CLI Printing Press：火爆外网的Go开源神器！一键生成Agent专属CLI工具，45个开箱即用

Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎，Mac上跑出468 token/s

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱

OpenClaw 深度解析：重塑个人 AI 助手范式的开源架构革命——从 Gateway 到 Skill 生态的全链路技术拆解

ds4 深度实战：当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南

oMLX 深度实战：当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南（2026）

llama.cpp 深度实战：从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能

Ollama深度解析：Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案

OpenClaw 深度解析：30万星开源 AI Agent 框架的技术内核——从 Gateway 到 Memory 的完整架构革命

MemPalace 深度实战：当记忆宫殿遇上 AI Agent——从 2000 年前认知术到 96.6% 召回率的本地记忆系统完全指南（2026）

3MB就能跑PostgreSQL：PGlite如何用WebAssembly彻底改变前端数据库生态

ds4 深度解析：当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解

Lucebox 深度解析：9.56L 铝合金盒子如何用 RTX 3090 + Ryzen AI MAX+ 395 的 128GB 统一内存 + DFlash 推测解码 + 自研 CUDA 内核让消费级硬件实现 4-6 倍云端推理加速——从硬件架构到开源推理引擎 lucebox-hub 的完整实战指南

heartmorrow：开源本地 AI 恋爱模拟游戏，豆包智能体的平替方案

大家都在搜索什么？