llama.cpp-程序员茄子

3.2万Star开源本地AI知识库：Open Notebook支持18家模型+播客生成+MCP集成
2026-06-21 12:21:16 +0800 CST view 221
Open Notebook 是3.2万Star的开源本地AI知识库，Google Notebook LM替代品。支持18家AI模型切换、1-4人播客生成、RAG对话+来源标注、MCP集成、REST API。MIT协议，Docker两分钟部署，数据全在本地。
AI知识库开源 RAG 播客 MCP Ollama DeepSeek 本地部署隐私

2026年大模型推理框架横评：vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9

编程

2026年大模型推理框架横评：vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
2026-07-10 17:44:16 +0800 CST view 88
深度对比2026年四大主流LLM推理框架：vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9，涵盖PagedAttention、FP8量化、ZeRO-3、连续批处理等核心技术原理，配生产级代码示例与实测性能数据。
LLM vLLM TensorRT-LLM TGI DeepSpeed 推理优化量化 AI部署

LLM推理引擎终极对决：vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南

编程

LLM推理引擎终极对决：vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
2026-04-20 13:45:31 +0800 CST view 731
深度对比vLLM与TensorRT-LLM两大LLM推理框架，从PagedAttention到Kernel Fusion，从量化技术到生产部署，助你做出正确的技术选型决策
LLM vLLM TensorRT-LLM 推理优化大模型部署量化技术 AI工程

万字深度解析 Nano-vLLM：当1200行Python代码重构大模型推理——从架构设计到性能超越vLLM的完整技术指南（2026）

编程

万字深度解析 Nano-vLLM：当1200行Python代码重构大模型推理——从架构设计到性能超越vLLM的完整技术指南（2026）
2026-07-01 14:44:55 +0800 CST view 149
Nano-vLLM：用约1200行Python代码实现的轻量级vLLM替代方案。深度解析KV Cache管理、GQA注意力、RoPE位置编码、Continuous Batching等核心技术，Benchmark性能超越vLLM 5.3%。适合学习大模型推理原理和内网轻量级部署。
Nano-vLLM 大模型推理 LLM Tensor Parallelism KV Cache Continuous Batching Python PyTorch Qwen2 开源项目

2026大模型推理框架年度横评：vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南

编程

2026大模型推理框架年度横评：vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
2026-06-18 17:54:54 +0800 CST view 454
深度横评2026年四大主流大模型推理框架，涵盖PagedAttention架构、ContinuousBatching、算子融合、FP8量化、NVMe卸载等核心技术，配实测数据与生产级选型指南
大模型 LLM 推理框架 vLLM TensorRT-LLM TGI DeepSpeed GPU推理 AI部署 NVIDIA

LLM推理引擎深度实战：从PagedAttention到生产级部署，万字长文吃透2026年最关键的AI基础设施

编程

LLM推理引擎深度实战：从PagedAttention到生产级部署，万字长文吃透2026年最关键的AI基础设施
2026-06-27 12:44:29 +0800 CST view 228
2026年LLM推理引擎深度实战：从PagedAttention、连续批处理、量化技术到生产级K8s部署，万字长文覆盖vLLM、SGLang、TensorRT-LLM、TGI四大框架架构原理与实测对比
LLM推理 vLLM PagedAttention SGLang 推理优化 TensorRT-LLM 生产部署 KV Cache 量化

LLM 推理框架选型实战：vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南

编程

LLM 推理框架选型实战：vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
2026-07-03 13:49:04 +0800 CST view 207
深度对比 vLLM 0.5、TensorRT-LLM 1.8、TGI 2.0、DeepSpeed-MII 0.9 四大推理框架，从核心技术原理、性能数据、成本账本到生产部署实战，帮你做出正确的框架选型决策。
LLM vLLM TensorRT-LLM TGI DeepSpeed 推理优化大模型部署 GPU优化

TensorRT-LLM 深度实战：从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命

编程

TensorRT-LLM 深度实战：从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命
2026-05-22 06:19:51 +0800 CST view 525
深入解析TensorRT-LLM推理框架，从Paged KV Cache、连续批处理到INT4/INT8/FP8量化实战，覆盖Blackwell架构适配、Triton部署与K8s生产方案
TensorRT-LLM LLM推理量化 INT4 Blackwell GPU优化

GitNexus 深度解析：当 AI Agent 终于拥有了自己的「代码神经系统」

编程

GitNexus 深度解析：当 AI Agent 终于拥有了自己的「代码神经系统」
2026-04-09 05:25:32 +0800 CST view 1186
GitNexus 将任意代码库索引为知识图谱，通过 MCP 协议让 AI Agent 拥有代码架构感知能力，解决 AI 编程工具不"看见"代码结构的核心痛点。
AI编程 GitNexus 知识图谱 MCP 代码智能 Agent

Chrome DevTools MCP 深度实战：让 AI 编程助手真正看懂并操控浏览器的技术革命

编程

Chrome DevTools MCP 深度实战：让 AI 编程助手真正看懂并操控浏览器的技术革命
2026-05-16 04:43:16 +0800 CST view 446
Chrome DevTools MCP 让 AI 编程助手通过 MCP 协议直接控制浏览器，实现深度调试、性能分析和自动化测试。本文详解架构、实战和性能优化。
Chrome DevTools MCP AIAgent 前端调试自动化测试

GitNexus 深度实战：当代码智能遇见「零服务器」架构——从知识图谱到 MCP 集成的生产级完全指南（2026）

编程

GitNexus 深度实战：当代码智能遇见「零服务器」架构——从知识图谱到 MCP 集成的生产级完全指南（2026）
2026-06-16 05:18:22 +0800 CST view 332
GitNexus 正在重新定义 AI 辅助编程的边界——通过浏览器端知识图谱构建、Tree-sitter 多语言解析、LadybugDB 原生存储，以及 MCP 协议集成，让 AI Agents 能够真正「理解」你的代码库。本文深入剖析 GitNexus 的架构设计、核心技术栈、实战部署流程，以及生产环境中的性能优化技巧。
GitNexus 代码知识图谱 MCP AI Agent Tree-sitter 零服务器

MemPalace 深度解析：记忆宫殿架构如何让 AI Agent 告别"金鱼记忆"

编程

MemPalace 深度解析：记忆宫殿架构如何让 AI Agent 告别"金鱼记忆"
2026-06-10 11:48:11 +0800 CST view 281
深度解析 MemPalace——54k Stars 的开源 AI Agent 记忆系统，用记忆宫殿架构实现 96.6% R@5 召回率，无需 API key 完全本地运行。
AI Agent MemPalace 记忆系统 MCP 向量检索 LongMemEval

Robinhood Agentic Trading 深度解析：MCP 协议如何让 AI Agent 首次掌握真实金融交易权限

编程

Robinhood Agentic Trading 深度解析：MCP 协议如何让 AI Agent 首次掌握真实金融交易权限
2026-06-01 16:55:23 +0800 CST view 396
深度解析 Robinhood 2026年5月推出的 Agentic Trading 功能，从技术架构、协议原理、代码实现、安全模型等多维度剖析 MCP 协议如何让 AI Agent 首次获得真实金融交易权限
MCP协议 AI Agent 金融交易 Robinhood OpenClaw

A2A + MCP 双协议深度解析：当多智能体协作成为工程现实——从协议原理到生产级代码实战

编程

A2A + MCP 双协议深度解析：当多智能体协作成为工程现实——从协议原理到生产级代码实战
2026-06-10 12:19:13 +0800 CST view 376
深入解析MCP和A2A两大Agent协作协议：MCP由Anthropic推出用于AI与外部工具通信，A2A由Google捐给Linux基金会用于AI Agent之间协作。覆盖协议架构、代码实战、安全机制与生产级集成策略。
AI Agent MCP A2A 多智能体协作

InsForge：一站式AI后端神器，9.1k Star让Agent包揽认证存储支付部署

案例

InsForge：一站式AI后端神器，9.1k Star让Agent包揽认证存储支付部署
2026-05-09 10:25:03 +0800 CST view 651
InsForge：面向AI编程Agent的开源后端平台，斩获9.1k Star。提供MCP Server让Agent直接理解后端上下文（Schema、表关系、RLS权限），无需猜接口。集成数据库、认证、存储、Edge Functions、Model Gateway、Realtime、Stripe支付、部署七大能力，MCPMark基准测试比Supabase快1.6倍
AI后端 MCP Server Agent编程 PostgreSQL BaaS Y Combinator Supabase对比

Agentic Trading 深度实战：MCP 协议让 AI Agent 首次掌握真实金融交易权限（2026）

编程

Agentic Trading 深度实战：MCP 协议让 AI Agent 首次掌握真实金融交易权限（2026）
2026-06-01 16:56:15 +0800 CST view 354
深度解析 Robinhood 2026年5月推出的 Agentic Trading 功能，从技术架构、协议原理、代码实现、安全模型等多维度剖析 MCP 协议如何让 AI Agent 首次获得真实金融交易权限
MCP协议 AI Agent 金融交易 Robinhood OpenClaw

从Windsurf到Devin Desktop：AI编程工具的平台化战略转型深度解析

编程

从Windsurf到Devin Desktop：AI编程工具的平台化战略转型深度解析
2026-07-10 20:14:06 +0800 CST view 54
2026年7月Windsurf更名为Devin Desktop，标志AI编程工具进入平台化时代。本文深度解析：从技术架构（ACP协议、Rust重写、Kanban看板）到战略意图（从工具到平台的升维竞争），以及开发者如何在新范式中保持竞争力。
AI编程 Devin Desktop Windsurf 多Agent ACP协议 Rust

超详细的Hermes Agent上手指南，养马不求人！GitHub最活跃的开源AI Agent框架

案例

超详细的Hermes Agent上手指南，养马不求人！GitHub最活跃的开源AI Agent框架
2026-05-09 10:29:10 +0800 CST view 717
超详细的Hermes Agent上手指南。Hermes Agent是GitHub上最活跃的开源AI Agent框架之一，被称为「爱马仕」。支持MCP协议工具调用、多Agent协作、记忆系统（短期+长期），上手简单扩展强，适合快速搭建AI智能体。本文涵盖概念解析、安装部署、基础用法、进阶功能和实战案例。
AI Agent 开源框架大模型智能体 GitHub 工作流自动化自定义工具 MCP Hermes Agent 多Agent协作记忆系统 Python

DNS-AID 深度实战：当 DNS 协议遇上 AI Agent 发现——从 SRV 记录到生产级智能体注册的完全指南（2026）

编程

DNS-AID 深度实战：当 DNS 协议遇上 AI Agent 发现——从 SRV 记录到生产级智能体注册的完全指南（2026）
2026-06-10 13:47:54 +0800 CST view 333
Linux基金会旗下AAIF于2026年6月发布的DNS-AID标准深度实战指南。从DNS协议原理到生产级Agent注册系统搭建，涵盖SRV记录设计、CoreDNS配置、注册客户端与发现客户端实现。
DNS-AID Agent Discovery DNS MCP Linux Foundation Service Discovery Agent Mesh

VSCode 2026 Agent Runtime 深度解析：IDE 原生多智能体协同开发架构从零到一

编程

VSCode 2026 Agent Runtime 深度解析：IDE 原生多智能体协同开发架构从零到一
2026-06-01 18:25:03 +0800 CST view 370
深入解析 VSCode 2026 原生 Agent Runtime 架构：ACP 协议、Intent Bus、WASM 沙箱、RAG-Augmented 工作流与生产级性能优化实践。
VSCode 多智能体 Agent Runtime ACP协议 WASM Intent Bus AI编程

.NET 11 Preview 4 深度实战：Runtime-Async 革命、Process API 重生、MCP Server 模板——微软如何用一次预览版重新定义后端开发范式

编程

.NET 11 Preview 4 深度实战：Runtime-Async 革命、Process API 重生、MCP Server 模板——微软如何用一次预览版重新定义后端开发范式
2026-05-16 09:44:07 +0800 CST view 442
.NET 11 Preview 4 深度解析：Runtime-Async 全面启用、Process API 大规模扩展、MCP Server 模板、EF Core 向量搜索、Blazor 电路暂停恢复
.NET 11 Runtime-Async ASP.NET Core MCP EF Core Process API Blazor

Context-Mode 深度实战：当 AI 编程成本暴涨到让人肉疼——MCP 插件用沙盒隔离将 Token 消耗砍掉 98%

编程

Context-Mode 深度实战：当 AI 编程成本暴涨到让人肉疼——MCP 插件用沙盒隔离将 Token 消耗砍掉 98%
2026-06-16 09:22:57 +0800 CST view 380
Context-Mode 是一个登顶 GitHub 和 Hacker News 的开源 MCP 插件，通过沙盒隔离、语义检索、Think in Code 三大核心机制，将 AI 编程的 Token 消耗降低 98%，连续编程时间从 30 分钟拉到 3 小时。本文从架构设计、代码实战、多平台接入到性能优化，全面拆解这个被 24 万开发者采用的项目。
MCP AI编程 Token优化 Context-Mode 开源项目上下文管理

Nanobot 深度实战：当 4000 行 Python 重写了 AI Agent 的游戏规则——从核心架构到生产级部署的超轻量智能体完全指南（2026）

编程

Nanobot 深度实战：当 4000 行 Python 重写了 AI Agent 的游戏规则——从核心架构到生产级部署的超轻量智能体完全指南（2026）
2026-06-21 20:53:09 +0800 CST view 251
Nanobot 是 HKUDS 开源的超轻量 AI Agent 运行时框架，核心仅 4000 行 Python，支持 13+ 聊天平台、20+ 模型提供商、MCP 协议、持久化记忆和渐进式 Skills 加载。本文深度解析其四大核心组件架构、Skills 三级加载机制、自定义工具实战、生产级部署方案及性能优化策略。
AI Agent Nanobot Python 开源项目 MCP

大家都在搜索什么？

devops 易支付一个官网+多少钱统一接受回调统一回调 sub node 宝塔日志 mysql shell ElasticSearch css vue api接口对接 2025 支付接口对接 go php php回调回调

上一页 1...5 678 9...34 下一页

AI,自己全程接管维护

3.2万Star开源本地AI知识库：Open Notebook支持18家模型+播客生成+MCP集成

2026年大模型推理框架横评：vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9

LLM推理引擎终极对决：vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南

万字深度解析 Nano-vLLM：当1200行Python代码重构大模型推理——从架构设计到性能超越vLLM的完整技术指南（2026）

2026大模型推理框架年度横评：vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南

LLM推理引擎深度实战：从PagedAttention到生产级部署，万字长文吃透2026年最关键的AI基础设施

LLM 推理框架选型实战：vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南

TensorRT-LLM 深度实战：从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命

GitNexus 深度解析：当 AI Agent 终于拥有了自己的「代码神经系统」

Chrome DevTools MCP 深度实战：让 AI 编程助手真正看懂并操控浏览器的技术革命

GitNexus 深度实战：当代码智能遇见「零服务器」架构——从知识图谱到 MCP 集成的生产级完全指南（2026）

MemPalace 深度解析：记忆宫殿架构如何让 AI Agent 告别"金鱼记忆"

Robinhood Agentic Trading 深度解析：MCP 协议如何让 AI Agent 首次掌握真实金融交易权限

A2A + MCP 双协议深度解析：当多智能体协作成为工程现实——从协议原理到生产级代码实战

InsForge：一站式AI后端神器，9.1k Star让Agent包揽认证存储支付部署

Agentic Trading 深度实战：MCP 协议让 AI Agent 首次掌握真实金融交易权限（2026）

从Windsurf到Devin Desktop：AI编程工具的平台化战略转型深度解析

超详细的Hermes Agent上手指南，养马不求人！GitHub最活跃的开源AI Agent框架

DNS-AID 深度实战：当 DNS 协议遇上 AI Agent 发现——从 SRV 记录到生产级智能体注册的完全指南（2026）

CLI Printing Press：火爆外网的Go开源神器！一键生成Agent专属CLI工具，45个开箱即用

VSCode 2026 Agent Runtime 深度解析：IDE 原生多智能体协同开发架构从零到一

.NET 11 Preview 4 深度实战：Runtime-Async 革命、Process API 重生、MCP Server 模板——微软如何用一次预览版重新定义后端开发范式

Context-Mode 深度实战：当 AI 编程成本暴涨到让人肉疼——MCP 插件用沙盒隔离将 Token 消耗砍掉 98%

Nanobot 深度实战：当 4000 行 Python 重写了 AI Agent 的游戏规则——从核心架构到生产级部署的超轻量智能体完全指南（2026）

大家都在搜索什么？