程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
LLM 相关技术文章(第5页)
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
llmfit 深度拆解:一条命令算出你的电脑能跑哪些大模型——硬件感知适配引擎的工程解剖
编程
llmfit 深度拆解:一条命令算出你的电脑能跑哪些大模型——硬件感知适配引擎的工程解剖
2026-07-24 18:44:04
深度拆解 GitHub Trending 开源工具 llmfit:四维评分系统、量化自动试探、MoE 精算、带宽速度模型、Plan 模式与 bench 众包校准,从第一性原理讲透本地大模型的硬件适配方法论。
llmfit
本地大模型
LLM
Rust
量化
Ollama
llama.cpp
Apple Silicon
硬件适配
开源
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
编程
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
2026-07-24 17:17:27
深度解析 omlx:专为 Mac 优化的本地 LLM 推理服务器,通过连续批处理、分层 KV Cache、SSD 缓存和菜单栏管理,实现便捷与控制兼得的推理体验。涵盖技术架构、性能调优、RAG 实战和最佳实践。
LLM
Mac
Apple Silicon
推理优化
本地部署
omlx
shimmy v2.3.0 深度解析:纯 Rust WebGPU 推理引擎如何让 GGUF 模型跑满你的每一块 GPU
编程
shimmy v2.3.0 深度解析:纯 Rust WebGPU 推理引擎如何让 GGUF 模型跑满你的每一块 GPU
2026-07-23 11:45:35
深度解析纯 Rust WebGPU 推理引擎 shimmy v2.3.0:GGUF 原生加载、OpenAI API 兼容、KV Cache 量化、Flash Attention 等效实现,配 Tauri 桌面应用集成实战与性能基准测试。
shimmy
WebGPU
Rust
GGUF
LLM
llama.cpp
推理引擎
WebAssembly
Hermes Agent 深度实战:从「LLM 审判官」到自进化 Skills——不训练模型也能越用越强的 Agent 工程全解(2026)
编程
Hermes Agent 深度实战:从「LLM 审判官」到自进化 Skills——不训练模型也能越用越强的 Agent 工程全解(2026)
2026-07-22 07:45:42
深度解析 Hermes Agent 自进化机制:LLM 审判官、三层记忆系统、Skill 自动生成的工程实现。不训练模型也能越用越强的 Agent 架构全解,含源码分析、部署指南与竞品对比。
Hermes Agent
AI Agent
自进化
记忆系统
Skill生成
LLM
开源项目
Nous Research
1.58-bit 大模型极限量化实战:从 BitNet 三值权重到单颗 CPU 跑起 100B 模型
编程
1.58-bit 大模型极限量化实战:从 BitNet 三值权重到单颗 CPU 跑起 100B 模型
2026-07-21 16:20:29
2026极限量化实战:BitNet三值权重、absmean/absmax量化、BitLinear实现、带宽数学与bitnet.cpp内核优化,单CPU跑100B模型。
BitNet
1.58-bit
大模型量化
LLM
端侧推理
bitnet.cpp
SGLang 深度实战:当 RadixAttention 重新定义 LLM 推理——从架构原理到生产部署的完整工程指南(2026)
编程
SGLang 深度实战:当 RadixAttention 重新定义 LLM 推理——从架构原理到生产部署的完整工程指南(2026)
2026-07-20 17:18:01
深度解析SGLang推理框架核心技术:RadixAttention基数树KV缓存、连续批处理与CPU-GPU调度重叠、约束解码结构化输出、CVE-2026-5760安全漏洞修复、生产部署实战,以及与vLLM的完整对比选型指南。
SGLang
LLM
RadixAttention
PagedAttention
推理优化
Python
深度学习
向量检索
Agent
RAG
vLLM
CVE
Rust
高性能计算
编程
MarkItDown 深度拆解:当微软把文档预处理做到极致——161K Star 的 LLM 预处理层工程全貌(2026·完整版)
2026-07-20 11:50:12
2026年深度拆解微软开源项目 MarkItDown:161K Star 的文档转 Markdown 神器,从插件化架构、20+格式处理机制到生产级 RAG 流水线集成的完整工程指南,配可运行代码示例。
MarkItDown
Python
LLM
RAG
文档处理
微软
开源
Markdown
PDF
Word
Excel
OCR
向量化
MarkItDown 深度拆解:当微软把文档预处理做到极致——161K Star 的 LLM 预处理层工程全貌(2026)
编程
MarkItDown 深度拆解:当微软把文档预处理做到极致——161K Star 的 LLM 预处理层工程全貌(2026)
2026-07-20 11:48:22
2026年深度拆解微软开源项目 MarkItDown:161K Star 的文档转 Markdown 神器,从插件化架构、20+格式处理机制到生产级 RAG 流水线集成的完整工程指南,配可运行代码示例。
MarkItDown
Python
LLM
RAG
文档处理
微软
开源
Markdown
文本提取
PDF
Word
Excel
Spring AI 2.0 深度拆解:当 Java 企业级框架学会「AI 原生思维」——ChatClient、MCP 工具调用与 Advisors 可组合架构
编程
Spring AI 2.0 深度拆解:当 Java 企业级框架学会「AI 原生思维」——ChatClient、MCP 工具调用与 Advisors 可组合架构
2026-07-17 10:44:29
深度拆解 Spring AI 2.0 GA:ChatClient Fluent API、Advisors 可组合拦截器链、@Tool 声明式工具调用、MCP 协议支持、RAG ETL Pipeline,配完整生产级代码实战。
Spring AI
Java
AI
Spring Boot
LLM
MCP
RAG
AI Agent
Tool Calling
Spring AI 2.0 深度拆解:当 Java 企业级框架学会「AI 原生思维」——从 ChatClient 流式 API、MCP 工具调用到 Advisors 可组合架构的工程全貌
编程
Spring AI 2.0 深度拆解:当 Java 企业级框架学会「AI 原生思维」——从 ChatClient 流式 API、MCP 工具调用到 Advisors 可组合架构的工程全貌
2026-07-17 10:43:43
深度拆解 Spring AI 2.0 GA:ChatClient Fluent API、Advisors 可组合拦截器链、@Tool 声明式工具调用、MCP 协议原生支持、RAG ETL Pipeline、Micrometer 可观测性,配完整生产级代码实战。2026年Java开发者AI集成的终极指南。
Spring AI
Java
AI
Spring Boot
LLM
MCP
RAG
AI Agent
Tool Calling
Spring Framework
Browser-Use 深度拆解:当 AI 学会「看懂网页」——可访问性树、Playwright 内核与感知-决策-执行闭环如何重写浏览器自动化的心智模型
编程
Browser-Use 深度拆解:当 AI 学会「看懂网页」——可访问性树、Playwright 内核与感知-决策-执行闭环如何重写浏览器自动化的心智模型
2026-07-16 06:44:38
从工程师视角深度拆解 Browser-Use:Playwright/CDP 内核、可访问性树感知、感知-决策-执行闭环、动作空间与系统提示词设计,并手写一个迷你 browser agent,配 Token 优化与自愈实战。
Browser-Use
AI浏览器自动化
Playwright
可访问性树
AI Agent
RPA
LLM
Vera 深度拆解:当编程语言学会「为LLM而生」——无变量名、强制契约、SMT证明的代码验证新范式
编程
Vera 深度拆解:当编程语言学会「为LLM而生」——无变量名、强制契约、SMT证明的代码验证新范式
2026-07-15 19:14:48
深度拆解 Vera:专为 LLM 设计的编程语言,无变量名(de Bruijn 索引)、强制契约(requires/ensures)、SMT 静态证明、WebAssembly 编译目标,以及它对编程语言未来发展的深远影响。
Vera
编程语言
LLM
WebAssembly
SMT
Z3
形式化验证
合约编程
代数效果
去变量名
Vibe-Trading 深度拆解:当 LLM 学会「炒股」——自然语言量化交易的多智能体架构与工程实践
编程
Vibe-Trading 深度拆解:当 LLM 学会「炒股」——自然语言量化交易的多智能体架构与工程实践
2026-07-15 11:45:26
深度拆解港大HKUDS开源的Vibe-Trading项目:ReAct循环驱动的自然语言量化交易Agent、69个金融技能按需加载、30个多智能体Swarm团队、四大市场回测引擎、456个Alpha因子库,以及Shadow Account行为诊断功能,配完整代码示例与工程边界分析。
Vibe-Trading
LLM
量化交易
多智能体
ReAct
金融科技
HKUDS
Alpha Zoo
Shadow Account
MoneyPrinterTurbo 深度拆解:一个关键词如何端到端跑出一条高清短视频——AI 视频生成流水线的工程内幕
编程
MoneyPrinterTurbo 深度拆解:一个关键词如何端到端跑出一条高清短视频——AI 视频生成流水线的工程内幕
2026-07-14 19:41:50
从 LLM 脚本、Pexels 素材检索、Edge TTS 配音、字幕生成到 FFmpeg 合成,深度拆解 MoneyPrinterTurbo 的端到端 AI 视频生成流水线架构,并附可运行核心代码与规模化性能优化。
MoneyPrinterTurbo
AI视频生成
短视频自动化
FFmpeg
LLM
TTS
Python
内容创作
Vera 深度拆解:当编程语言为 AI 原生化而生——一个专为 LLM 打造的零幻觉代码生成范式
编程
Vera 深度拆解:当编程语言为 AI 原生化而生——一个专为 LLM 打造的零幻觉代码生成范式
2026-07-14 15:17:06
深度拆解 Vera:专为 LLM 设计的编程语言,用 De Bruijn 索引消除命名歧义,Z3 SMT 强制契约验证,纯函数优先,编译为 WebAssembly,从根本上解决 LLM 编程的可信度问题。
Vera
编程语言
LLM
WebAssembly
Z3
契约验证
De Bruijn
代数效应
AI编程
零幻觉
GraphRAG 知识图谱增强检索实战:从 Leiden 社区检测到生产级部署,一次把图谱 RAG 讲透(2026 深度长文)
编程
GraphRAG 知识图谱增强检索实战:从 Leiden 社区检测到生产级部署,一次把图谱 RAG 讲透(2026 深度长文)
2026-07-13 14:18:59
深度拆解GraphRAG知识图谱增强检索技术:从Leiden社区检测到生产级部署,包含完整代码示例与性能对比,一次把图谱RAG讲透
GraphRAG
知识图谱
RAG
Leiden
社区检测
Neo4j
向量检索
LLM
MCP
LightRAG
双曲RAG
AI应用开发
检索增强生成
实体关系提取
图数据库
生产级部署
SSM-Transformer 混合架构深度实战:当状态空间模型终于与注意力机制握手言和
编程
SSM-Transformer 混合架构深度实战:当状态空间模型终于与注意力机制握手言和
2026-07-11 10:25:05
深度拆解 2026 年 SSM-Transformer 混合架构的设计哲学、内核原理与生产实战:Mamba 选择性状态空间模型、Hybrid 混合层设计、vLLM 推理优化、Kubernetes 部署与性能调优,配完整可运行代码。
SSM
Mamba
Mamba2
Transformer
混合架构
状态空间模型
长上下文
推理优化
大模型
LLM
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
编程
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
2026-07-10 17:44:16
深度对比2026年四大主流LLM推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9,涵盖PagedAttention、FP8量化、ZeRO-3、连续批处理等核心技术原理,配生产级代码示例与实测性能数据。
LLM
vLLM
TensorRT-LLM
TGI
DeepSpeed
推理优化
量化
AI部署
给 AI Agent 装上生产级可观测性:用 OpenTelemetry 把 LLM 工作流从黑盒变白盒
编程
给 AI Agent 装上生产级可观测性:用 OpenTelemetry 把 LLM 工作流从黑盒变白盒
2026-07-10 11:47:48
深度解析2026年AI工程化最关键方向——AI Agent可观测性,涵盖OpenTelemetry LLM语义约定、MCP协议链路追踪、OpenLIT全链路平台,附生产级Go代码实现
AI Agent
OpenTelemetry
LLM
可观测性
生产级
Go
链路追踪
Token优化
为 AI Agent 打通数据血脉:Firecrawl 深度实战,从网页抓取到 LLM-ready 结构化数据(附 RAG 全链路代码)
编程
为 AI Agent 打通数据血脉:Firecrawl 深度实战,从网页抓取到 LLM-ready 结构化数据(附 RAG 全链路代码)
2026-07-10 02:43:14
深度实战 Firecrawl,讲透如何把任意网站变成 LLM 可直接消费的结构化数据:四动词原理、流水线架构、REST/SDK 调用、自建 Mini-Firecrawl、RAG 全链路代码与成本控制。
Firecrawl
AI Agent
RAG
网页抓取
LLM
数据管道
Python
从 Caveman 令牌压缩到 Agent Skills:2026年7月 GitHub Trending AI 编码工具深度解析
编程
从 Caveman 令牌压缩到 Agent Skills:2026年7月 GitHub Trending AI 编码工具深度解析
2026-07-09 01:47:33
深度解析2026年7月GitHub Trending上的AI编码工具生态:Caveman令牌压缩65%背后的工程原理、mattpocock/skills 354个生产级技能、openai/codex-plugin-cc多代理协作,以及这场正在发生的AI编程工具工程化革命。
AI编程工具
GitHub Trending
Caveman
Agent Skills
AI Agent
LLM
Copilot
2026技术
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
编程
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
2026-07-07 16:15:25
深入解析2026年大模型推理中的KV Cache优化技术栈:从PagedAttention虚拟分页管理、Prefix Caching缓存复用、Speculative Decoding并行验证,到INT8量化与Continuous Batching生产实践,配合代码示例与性能对比,助你系统性掌握LLM推理优化的核心要领。
LLM
KV Cache
PagedAttention
Prefix Caching
vLLM
推理优化
Speculative Decoding
Crawl4AI 深度解析:50K+ Stars 的 LLM 友好型爬虫如何用零配置 Markdown 输出 + MCP 协议 + 深度爬取把整个互联网变成 AI 的「知识后花园」——从异步浏览器池到 RAG 管道的完整实战指南
编程
Crawl4AI 深度解析:50K+ Stars 的 LLM 友好型爬虫如何用零配置 Markdown 输出 + MCP 协议 + 深度爬取把整个互联网变成 AI 的「知识后花园」——从异步浏览器池到 RAG 管道的完整实战指南
2026-07-07 11:44:37
深度解析GitHub 50K+ Stars的Crawl4AI LLM友好型爬虫:零配置Markdown输出、Fit Markdown智能过滤、MCP协议原生集成、异步浏览器池并发爬取、深度爬取崩溃恢复、LLM驱动结构化提取、Docker安全加固v0.9.0。从架构原理到RAG管道生产级实战,含完整代码示例与Firecrawl/Jina Reader全面对比。
Crawl4AI
爬虫
LLM
RAG
MCP
Web Scraping
AI
开源
Markdown
数据管道
heartmorrow:开源本地 AI 恋爱模拟游戏,豆包智能体的平替方案
编程
heartmorrow:开源本地 AI 恋爱模拟游戏,豆包智能体的平替方案
2026-07-07 09:13:00
开源本地AI恋爱模拟游戏,LLM驱动+规则引擎harness,七维关系数值、记忆系统、社交图、手机系统,数据全部本地存储,豆包智能体平替。
AI
开源
游戏
恋爱模拟
本地部署
LLM
豆包
智能体
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
python
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
上一页
1
2
3
4
5
6
7
8
…
12
下一页
共 12 页
到第
页
确定