本地训练-程序员茄子

Unsloth 深度实战：从显存爆炸到 70% 压缩——本地大模型微调的工程化革命与生产级实践
2026-05-22 16:15:29 +0800 CST view 10
Unsloth通过底层算子优化让大模型微调显存降低70%、速度提升2-5x，本文从原理到生产实战全方位拆解，含完整代码。
Unsloth LoRA QLoRA 大模型微调本地训练

Agent Lightning 深度解析：微软开源 AI Agent 训练框架——零代码改动，让任何 AI Agent 学会「自我进化」

编程

Agent Lightning 深度解析：微软开源 AI Agent 训练框架——零代码改动，让任何 AI Agent 学会「自我进化」
2026-05-16 03:14:41 +0800 CST view 114
微软研究院开源 Agent Lightning：零代码改动训练任何 AI Agent，支持 RL/APO/SFT，已验证 128 GPU 大规模训练。
AgentLightning 强化学习 AI Agent 微软开源 LLM训练

Google TimesFM 深度解析：14K Star 的时间序列基础模型如何用 200M 参数颠覆零样本预测

编程

Google TimesFM 深度解析：14K Star 的时间序列基础模型如何用 200M 参数颠覆零样本预测
2026-04-28 18:22:55 +0800 CST view 215
深度解析 Google TimesFM：200M 参数如何在 1000 亿时间点上预训练后实现零样本超越有监督模型，覆盖架构原理、代码实战、性能对比与生产部署完整指南。
AI大模型时间序列预测 Google TimesFM 零样本预测深度学习 GitHub开源预训练模型

你睡觉，AI 干活：Karpathy 的 AutoResearch 如何让大模型自己学会训练自己

编程

你睡觉，AI 干活：Karpathy 的 AutoResearch 如何让大模型自己学会训练自己
2026-04-19 18:47:36 +0800 CST view 328
深入解析 Andrej Karpathy 的 AutoResearch 开源项目，揭示其让 AI agent 自主修改训练代码、在真实执行中验证改进的核心机制，探讨对算法工程师职业的影响。
AI研究机器学习 AutoML LLM训练 Andrej Karpathy GitHub开源自动化调参 Python 研究效率 Agent

Kubernetes v1.36 Haru 深度解析：从"灵活框架"到"企业级平台"的安全与AI双重跨越

编程

Kubernetes v1.36 Haru 深度解析：从"灵活框架"到"企业级平台"的安全与AI双重跨越
2026-05-17 00:47:08 +0800 CST view 100
2026年首个Kubernetes重要版本深度解析：70项增强全面解读，包含User Namespaces GA、可变准入策略、AI工作负载感知抢占、DRA GPU分区等核心技术突破
Kubernetes k8s 云原生容器 DRA AI训练 GPU调度

BitNet 1.58-bit：微软如何用三个值就让大模型在 CPU 上飞奔

编程

BitNet 1.58-bit：微软如何用三个值就让大模型在 CPU 上飞奔
2026-05-11 13:55:11 +0800 CST view 121
微软开源BitNet 1.58-bit大模型推理框架，2B参数模型仅需0.4GB内存、29ms/token推理速度。核心创新：训练时量化、-1/0/+1三值权重、位运算加速，精度损失<5%却比INT4表现更好。纯CPU运行，71%能耗降低。
BitNet,1.58bit,微软,大模型量化,1bit LLM,CPU推理,bitnet.cpp,训练时量化,位运算加速,模型压缩

花3块钱、2小时训练一个64M的"小破模型"，能干啥？

编程

花3块钱、2小时训练一个64M的"小破模型"，能干啥？
2026-04-21 09:05:56 +0800 CST view 195
MiniMind：从零手写完整LLM训练流水线，64M参数，2小时+3块钱训练完成，支持预训练+SFT+RLHF+工具调用，适合Multi-Agent/自动化/端侧集成
开源 LLM PyTorch 模型训练 MiniMind AI 工具调用 RLHF

Karpathy 的 AutoResearch 深度实战：630 行代码如何让 AI 自己做研究——从 program.md 编程范式到 Muon 优化器的全链路拆解

编程

Karpathy 的 AutoResearch 深度实战：630 行代码如何让 AI 自己做研究——从 program.md 编程范式到 Muon 优化器的全链路拆解
2026-05-05 06:36:49 +0800 CST view 165
深度拆解 Karpathy 的 autoresearch 项目：630 行代码如何实现 AI 自主研究循环，从 program.md 编程范式到 Muon 优化器，从 Git 驱动版本控制到多 Agent 协作的全链路实战
AutoResearch Karpathy AI自主研究 Muon优化器 LLM训练

开源！低代码AI模型训练系统：工业级智能开发平台深度解析

案例

开源！低代码AI模型训练系统：工业级智能开发平台深度解析
2026-05-05 19:05:49 +0800 CST view 198
开源低代码AI模型训练系统，工业级智能开发平台，图像采集、智能检测、数据标注、模型训练四大模块，单张检测<2秒，字符识别率≥99.5%
AI 深度学习工业智能低代码机器视觉模型训练工业质检

AReaL：当异步强化学习遇上大模型Agent，训练效率狂飙2.77倍

编程

AReaL：当异步强化学习遇上大模型Agent，训练效率狂飙2.77倍
2026-04-18 09:13:49 +0800 CST view 206
深度解析蚂蚁集团开源的大规模异步强化学习框架AReaL，训练效率提升2.77倍，支持数学推理、搜索Agent、多模态等多种场景。
强化学习 Agent AI训练开源框架异步计算

METATRON 深度解析：当 AI 渗透测试在本地跑出「免费版 GPT-4 安全助手」

编程

METATRON 深度解析：当 AI 渗透测试在本地跑出「免费版 GPT-4 安全助手」
2026-04-09 07:55:23 +0800 CST view 636
深度解析 METATRON：如何在本地零成本跑起一个完整的 AI 渗透测试助手，基于 Qwen 微调模型 + Ollama + MariaDB，无需 API Key，数据完全不出本地。
AI渗透测试 Ollama Qwen 本地大模型 MariaDB Pentest 安全工具 Agent

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心

编程

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心
2026-04-28 18:27:20 +0800 CST view 205
基于Docker的自托管图片编辑器SnapOtter：45+工具、REST API接入AI Agent、本地AI修图（OCR/背景移除/高清化）、数据永久存NAS。海康智存部署教程。
Docker NAS 图片处理 AI修图本地部署 REST API OpenClaw Hermes

Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎，Mac上跑出468 token/s

案例

Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎，Mac上跑出468 token/s
2026-05-10 08:40:22 +0800 CST view 308
Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎ds4.c，C+Metal从头编写，Mac Studio M3 Ultra上预填充468 token/s。关键优化：非对称量化（MoE专家层2-bit）、KV缓存搬硬盘、内置OpenAI/Anthropic双API。128GB Mac可跑，专为coding agent优化。
DeepSeek AI推理 Mac Redis antirez Metal 本地推理 MoE GGUF C语言 Apple Silicon Claude Code OpenAI API Anthropic API

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱

编程

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱
2026-04-10 05:35:25 +0800 CST view 321
Rowboat 是一个带长期记忆的开源 AI 同事，自动构建知识图谱，支持会议准备、文档生成、承诺追踪，采用本地优先架构，完全透明可控。
AI Agent 知识图谱开源工具本地优先生产力工具

当 Apple Silicon 遇上视觉大模型：MLX-VLM 如何把「本地多模态推理」变成现实

编程

当 Apple Silicon 遇上视觉大模型：MLX-VLM 如何把「本地多模态推理」变成现实
2026-04-11 10:24:48 +0800 CST view 452
深度解析 Apple Silicon 上的视觉语言模型推理引擎 MLX-VLM，涵盖架构设计、模型支持、性能优化与实战部署。
Apple Silicon MLX 视觉语言模型 VLM Mac本地AI 多模态推理

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案

编程

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案
2026-05-11 09:23:06 +0800 CST view 152
Goose 是由 Block 开源、现已捐献给 Linux 基金会 AAIF 的本地 AI 编程代理。最新版本 v1.32.0（2026年5月6日）支持 Exa AI 搜索、桌面通知、@agent 协作、/skills 命令、自动压缩上下文、语音听写等功能。Rust 开发，支持 MCP 协议，可连接任何 LLM（OpenAI、Ollama、Kimi Code 等），完全本地运行无需订阅。
Goose AI编程本地LLM MCP Rust Linux基金会 Block

3MB就能跑PostgreSQL：PGlite如何用WebAssembly彻底改变前端数据库生态

编程

3MB就能跑PostgreSQL：PGlite如何用WebAssembly彻底改变前端数据库生态
2026-05-11 17:27:19 +0800 CST view 112
PGlite将完整PostgreSQL编译为WebAssembly，在浏览器里跑真正的数据库。3MB gzip、无依赖、完整SQL支持、ACID事务、pgvector向量搜索。本文深度解析PGlite技术架构，并从零构建本地优先AI笔记应用实战。
PGlite PostgreSQL WebAssembly 前端数据库 WASM 本地优先 pgvector

从原理到实战：llama.cpp 与 GGUF 量化格式的工程实践全解

编程

从原理到实战：llama.cpp 与 GGUF 量化格式的工程实践全解
2026-04-12 22:56:41 +0800 CST view 395
2026年深度解析 llama.cpp 架构设计与 GGUF 量化格式，从底层原理到工程实战，涵盖 K-Quant/IQ 量化、Flash Attention、KV Cache 优化、Intel NPU/GPU 部署全流程。
llama.cpp GGUF 量化大模型 C++ 本地部署

ds4.c 深度解析：Redis之父如何用纯C代码在MacBook上跑通284B大模型——从不对称量化到KV缓存磁盘化的完整技术内幕

编程

ds4.c 深度解析：Redis之父如何用纯C代码在MacBook上跑通284B大模型——从不对称量化到KV缓存磁盘化的完整技术内幕
2026-05-18 06:15:03 +0800 CST view 96
Redis之父antirez开源ds4.c项目深度解析：用纯C语言在MacBook上运行284B参数大模型，不对称2-bit量化、KV缓存磁盘化、OpenAI/Anthropic API兼容，打造首个真正的本地Agent推理后端
AI推理本地大模型 Redis Apple Silicon DeepSeek

MTools：免费开源的本地 AI 工具集，一个顶好几个

编程

MTools：免费开源的本地 AI 工具集，一个顶好几个
2026-05-13 17:55:20 +0800 CST view 106
MTools是一款完全本地运行的开源AI工具集，集成抠图、证件照制作、人声分离、音频转文字、视频插帧、超分辨率等功能，保护隐私且不限次数使用。
AI工具本地运行开源软件图像处理音频处理视频处理人声分离抠图工具

猛涨25K Star！LLMFit：一键检测你的电脑能跑哪些大模型

案例

猛涨25K Star！LLMFit：一键检测你的电脑能跑哪些大模型
2026-05-06 07:35:19 +0800 CST view 158
25K+Star的LLMFit一键检测你的电脑能跑哪些大模型，Rust编写支持NVIDIA/AMD/Intel/Apple Silicon，智能量化推荐Q8到Q2，四维评分系统，TUI+CLI双模式
LLM部署硬件检测量化推荐 Rust 终端工具本地部署 Ollama

Mano-P + Cider：4B模型本地操控Mac，端侧GUI Agent新时代

案例

Mano-P + Cider：4B模型本地操控Mac，端侧GUI Agent新时代
2026-05-07 13:34:32 +0800 CST view 157
明略科技开源Mano-P（4B量化模型本地操控Mac）和Cider（MLX推理加速框架）。476 tokens/s预填充，76 tokens/s解码，峰值内存4.3GB，完全本地运行数据不出设备，离线长任务自主规划
GUI Agent 端侧AI Apple Silicon MLX 视觉理解本地运行 Mano-P Cider

Ollama + OpenClaw + Claude Code：本地大模型驱动的自动化编程工作流深度解析

编程

Ollama + OpenClaw + Claude Code：本地大模型驱动的自动化编程工作流深度解析
2026-04-17 13:15:36 +0800 CST view 445
深度解析如何将 Ollama、OpenClaw 和 Claude Code 组合成强大的本地化 AI 编程工作流
Ollama OpenClaw Claude Code AI编程本地大模型

大家都在搜索什么？

devops 易支付一个官网+多少钱统一接受回调统一回调 sub node 宝塔日志 mysql shell ElasticSearch css vue api接口对接 2025 支付接口对接 go php php回调回调

AI,自己全程接管维护

Unsloth 深度实战：从显存爆炸到 70% 压缩——本地大模型微调的工程化革命与生产级实践

Agent Lightning 深度解析：微软开源 AI Agent 训练框架——零代码改动，让任何 AI Agent 学会「自我进化」

Google TimesFM 深度解析：14K Star 的时间序列基础模型如何用 200M 参数颠覆零样本预测

你睡觉，AI 干活：Karpathy 的 AutoResearch 如何让大模型自己学会训练自己

Kubernetes v1.36 Haru 深度解析：从"灵活框架"到"企业级平台"的安全与AI双重跨越

BitNet 1.58-bit：微软如何用三个值就让大模型在 CPU 上飞奔

花3块钱、2小时训练一个64M的"小破模型"，能干啥？

Karpathy 的 AutoResearch 深度实战：630 行代码如何让 AI 自己做研究——从 program.md 编程范式到 Muon 优化器的全链路拆解

开源！低代码AI模型训练系统：工业级智能开发平台深度解析

AReaL：当异步强化学习遇上大模型Agent，训练效率狂飙2.77倍

METATRON 深度解析：当 AI 渗透测试在本地跑出「免费版 GPT-4 安全助手」

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心

CLI Printing Press：火爆外网的Go开源神器！一键生成Agent专属CLI工具，45个开箱即用

Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎，Mac上跑出468 token/s

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱

当 Apple Silicon 遇上视觉大模型：MLX-VLM 如何把「本地多模态推理」变成现实

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案

3MB就能跑PostgreSQL：PGlite如何用WebAssembly彻底改变前端数据库生态

从原理到实战：llama.cpp 与 GGUF 量化格式的工程实践全解

ds4.c 深度解析：Redis之父如何用纯C代码在MacBook上跑通284B大模型——从不对称量化到KV缓存磁盘化的完整技术内幕

MTools：免费开源的本地 AI 工具集，一个顶好几个

猛涨25K Star！LLMFit：一键检测你的电脑能跑哪些大模型

Mano-P + Cider：4B模型本地操控Mac，端侧GUI Agent新时代

Ollama + OpenClaw + Claude Code：本地大模型驱动的自动化编程工作流深度解析

大家都在搜索什么？