程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
Unsloth 深度实战:从 Triton 内核优化到 70% 显存压缩——2026 年 LLM 本地微调的工业级完全指南
编程
Unsloth 深度实战:从 Triton 内核优化到 70% 显存压缩——2026 年 LLM 本地微调的工业级完全指南
2026-05-23 20:00:37 +0800 CST
view 534
深度剖析 Unsloth 如何通过手写 Triton 内核、智能显存管理和 LoRA/QLoRA 优化,实现训练速度 2-5 倍提升、显存占用降低 70% 的技术奇迹。
LLM
微调
Unsloth
LoRA
深度学习
Microsoft MarkItDown 深度实战:把整个世界搬进 Markdown——从多格式解析引擎到 LLM 知识管道完全指南(2026)
编程
Microsoft MarkItDown 深度实战:把整个世界搬进 Markdown——从多格式解析引擎到 LLM 知识管道完全指南(2026)
2026-06-02 23:44:03 +0800 CST
view 696
Microsoft 开源的 MarkItDown 在 2026 年引爆 AI 工程圈。本文从源码级架构解析、多格式解析引擎、与 LLM 工具链的集成实战、性能优化到生产级 RAG 管道,全面拆解这款改变 AI 工程范式的工具。
Microsoft
MarkItDown
Markdown
LLM
RAG
Python
文档解析
AI工程
Headroom 深度实战:当 Netflix 工程师用「上下文压缩」掀翻 AI 成本底牌——从 CCR 可逆机制到跨 Agent 记忆的生产级完全指南(2026)
编程
Headroom 深度实战:当 Netflix 工程师用「上下文压缩」掀翻 AI 成本底牌——从 CCR 可逆机制到跨 Agent 记忆的生产级完全指南(2026)
2026-06-11 15:20:19 +0800 CST
view 667
Netflix工程师开源的AI上下文压缩工具Headroom,能在保持答案质量的前提下将Token消耗压缩60-95%,累计节省70万美元成本。本文深度剖析其架构设计、CCR可逆机制、跨Agent记忆共享与生产级集成实践。
AI编程
Token压缩
上下文管理
LLM优化
OpenSource
OctaFuse Gateway:统一管理Coding Plan/Token Plan的开源AI网关,个人SaaS都能用
编程
OctaFuse Gateway:统一管理Coding Plan/Token Plan的开源AI网关,个人SaaS都能用
2026-06-22 21:00:01 +0800 CST
view 369
OctaFuse Gateway开源AI网关,把Provider、模型路由、API Key、用户、预算、用量审计、财务记账和管理后台放在一起。个人用可统一Coding Plan/Token Plan入口;做SaaS可变成LLM服务底座。支持OpenAI/Anthropic/Gemini多协议,Provider Key池统一调度多套额度,三层成本口径(metered/standard/charged),自带Admin后台+Playground+Simulator。
OctaFuse
AI网关
开源
LLM管理
多模型路由
SaaS
计费审计
Provider Key池
Headroom 深度拆解:当 AI Agent 学会「断舍离」——从上下文压缩层、CCR 可逆检索到 6 大压缩算法的工程全貌(2026)
编程
Headroom 深度拆解:当 AI Agent 学会「断舍离」——从上下文压缩层、CCR 可逆检索到 6 大压缩算法的工程全貌(2026)
2026-07-18 15:45:16 +0800 CST
view 164
Headroom 是 AI Agent 的上下文压缩层,在 Agent 与 LLM 之间插入本地优先、完全可逆的压缩中间件,实测节省 60-95% Token。本文从架构、4种集成模式、CCR 可逆检索到 6 大压缩算法与可运行代码实战全面拆解。
Headroom
AI Agent
上下文压缩
Token优化
LLM工程
微软 MarkItDown 深度拆解:一个依赖吃掉所有文档格式,RAG 预处理层的事实标配是怎样炼成的
编程
微软 MarkItDown 深度拆解:一个依赖吃掉所有文档格式,RAG 预处理层的事实标配是怎样炼成的
2026-07-30 03:13:05 +0800 CST
view 104
深度拆解微软开源的 MarkItDown:统一入口把 PDF/Word/PPT/Excel/音频/ZIP 转成结构保留的 Markdown,含转换器注册架构、RAG 流水线实战、插件开发、三档云端后端选型与生产性能安全清单。
MarkItDown
Microsoft
RAG
文档转换
Markdown
LLM
Python
OCR
开源
文档预处理
BitNet 深度拆解:当大模型被压到 1.58 bit——三值量化、BitLinear 与在 CPU 上跑 100B 的工程全貌(2026)
编程
BitNet 深度拆解:当大模型被压到 1.58 bit——三值量化、BitLinear 与在 CPU 上跑 100B 的工程全貌(2026)
2026-07-19 01:12:51 +0800 CST
view 211
深度拆解微软 BitNet 1-bit/1.58-bit 大模型:从三值量化数学、BitLinear 架构、BitNet.cpp 推理内核,到在 CPU 上运行 100B 模型的完整工程实战。
BitNet
1-bit LLM
三值量化
BitLinear
边缘AI
大模型推理
BitNet 1.58-bit:微软如何用三个值就让大模型在 CPU 上飞奔
编程
BitNet 1.58-bit:微软如何用三个值就让大模型在 CPU 上飞奔
2026-05-11 13:55:11 +0800 CST
view 650
微软开源BitNet 1.58-bit大模型推理框架,2B参数模型仅需0.4GB内存、29ms/token推理速度。核心创新:训练时量化、-1/0/+1三值权重、位运算加速,精度损失<5%却比INT4表现更好。纯CPU运行,71%能耗降低。
BitNet,1.58bit,微软,大模型量化,1bit LLM,CPU推理,bitnet.cpp,训练时量化,位运算加速,模型压缩
编程
MarkItDown 深度实战:当微软用Python重写文档预处理——从转换器链到LLM集成的生产级完全指南(2026)
2026-06-12 13:48:19 +0800 CST
view 547
深度剖析微软开源的MarkItDown工具,详解其转换器链架构、插件系统、LLM集成和大规模文档处理性能优化,提供15个完整代码示例和生产级部署方案。
MarkItDown
文档预处理
LLM
RAG
Python
微软
CLEAR 深度实战:当浙大+腾讯+北大联手破解AI推理「算力浪费」难题——从理性放弃机制到生产级LLM推理优化完全指南(2026)
编程
CLEAR 深度实战:当浙大+腾讯+北大联手破解AI推理「算力浪费」难题——从理性放弃机制到生产级LLM推理优化完全指南(2026)
2026-06-12 14:20:52 +0800 CST
view 548
深度解析 ICML 2026 接收的 CLEAR 推理优化方法。浙江大学、腾讯、北京大学联合提出:对没有希望的问题理性放弃,把算力集中到能解决的问题上。包含完整 Python 实现、vLLM/SGLang 集成、生产级部署指南。
LLM
推理优化
ICML 2026
CLEAR
算力分配
百度Unlimited-OCR深度解析:R-SWA常量KV缓存如何让OCR一口气吃下几十页文档——从单图解析到多页PDF的完整实战指南
编程
百度Unlimited-OCR深度解析:R-SWA常量KV缓存如何让OCR一口气吃下几十页文档——从单图解析到多页PDF的完整实战指南
2026-07-06 11:16:05 +0800 CST
view 350
深度解析百度开源Unlimited-OCR:13K+ Stars,R-SWA常量KV缓存让端到端OCR模型在32K上下文下一次性转录几十页文档。从架构设计到vLLM/SGLang生产部署完整实战指南。
Unlimited-OCR
百度
R-SWA
OCR
KV缓存
文档解析
长文档
vLLM
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
编程
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
2026-07-24 17:17:27 +0800 CST
view 189
深度解析 omlx:专为 Mac 优化的本地 LLM 推理服务器,通过连续批处理、分层 KV Cache、SSD 缓存和菜单栏管理,实现便捷与控制兼得的推理体验。涵盖技术架构、性能调优、RAG 实战和最佳实践。
LLM
Mac
Apple Silicon
推理优化
本地部署
omlx
MarkItDown 深度解析:微软10万星开源工具如何重塑 LLM 时代的文档处理范式
编程
MarkItDown 深度解析:微软10万星开源工具如何重塑 LLM 时代的文档处理范式
2026-04-21 05:47:35 +0800 CST
view 743
深度解析微软开源工具MarkItDown:如何将PDF、Word、Excel等20+格式转换为结构化Markdown,为LLM和RAG场景提供高质量的文档预处理方案。涵盖架构设计、实战代码、性能优化与生产部署最佳实践。
MarkItDown
文档转换
LLM
RAG
Python
开源工具
微软
Headroom 深度实战:当 AI Agent 的 Token 账单被压缩 90%——从六大压缩算法到 CCR 可逆存储、跨 Agent 记忆与 KV Cache 命中率优化的生产级完全指南(2026)
编程
Headroom 深度实战:当 AI Agent 的 Token 账单被压缩 90%——从六大压缩算法到 CCR 可逆存储、跨 Agent 记忆与 KV Cache 命中率优化的生产级完全指南(2026)
2026-06-17 15:22:23 +0800 CST
view 752
Headroom 是开源上下文压缩中间层,六大算法覆盖 JSON/代码/文本/图片,CCR 可逆存储,跨 Agent 记忆,实测节省 60-95% Token,精度保留 97%。
Headroom
AI Agent
Token优化
LLM
上下文压缩
Zabbix 7.4 深度解析:嵌套低级别自动发现如何重新定义企业监控的自动化边界
编程
Zabbix 7.4 深度解析:嵌套低级别自动发现如何重新定义企业监控的自动化边界
2026-05-11 16:53:52 +0800 CST
view 520
Zabbix 7.4 引入嵌套低级别自动发现,彻底改变企业监控的自动化边界。本文深度解析嵌套LLD原理、发现原型机制、主机向导配置,并提供Kubernetes多层级监控的完整实战代码。
Zabbix
监控
运维
LLD
自动化
DevOps
WWDC 2026 Foundation Models 深度实战:当苹果把大模型塞进 Swift——从端侧推理到 Gemini 兜底的生产级 AI 应用开发完全指南(2026)
编程
WWDC 2026 Foundation Models 深度实战:当苹果把大模型塞进 Swift——从端侧推理到 Gemini 兜底的生产级 AI 应用开发完全指南(2026)
2026-06-12 16:48:52 +0800 CST
view 696
WWDC 2026 最核心的 AI 技术全面拆解:Foundation Models framework 原生 Swift API、三层智能架构、App Intents 语义桥接、Evaluations 测试框架、Siri AI 独立应用——从架构分析到代码实战的完整生产级指南。
WWDC 2026
Foundation Models
Swift AI
Apple Intelligence
Siri AI
App Intents
Gemini
iOS 27
macOS 27
Xcode 27
Vera 编程语言深度解析:当一门语言从设计之初就为 LLM 而生
编程
Vera 编程语言深度解析:当一门语言从设计之初就为 LLM 而生
2026-06-17 16:27:35 +0800 CST
view 346
深度解析 Vera 编程语言——一门从设计之初就专为 LLM 编写的编程语言,涵盖强制合约验证、结构引用、效果类型系统、WebAssembly 编译等核心技术。
编程语言
AI编程
LLM
形式化验证
WebAssembly
Z3
万字深度解析:Andrej Karpathy 的 Vibe Coding 与 CLAUDE.md——70行配置文件如何重新定义AI辅助编程(2026)
编程
万字深度解析:Andrej Karpathy 的 Vibe Coding 与 CLAUDE.md——70行配置文件如何重新定义AI辅助编程(2026)
2026-07-01 00:43:10 +0800 CST
view 211
Andrej Karpathy的CLAUDE.md(70行6万Star)和Vibe Coding理念深度解析,四大核心原则、完整实战、工具集成与避坑指南,约12000字
VibeCoding
ClaudeMD
AI辅助编程
Karpathy
软件工程
LLM
代码生成
最佳实践
MarkItDown 深度解析:微软 137K+ Stars 的万能文档转 Markdown 引擎——从插件架构到 RAG 生产流水线的完整实战指南
编程
MarkItDown 深度解析:微软 137K+ Stars 的万能文档转 Markdown 引擎——从插件架构到 RAG 生产流水线的完整实战指南
2026-07-06 13:44:29 +0800 CST
view 217
深度解析微软AutoGen团队开源的MarkItDown文档转Markdown工具:137K+ Stars,支持20+种格式(PDF/Word/PPT/Excel/图片/音频/YouTube),插件架构、LLM图像描述、Azure Content Understanding结构化字段提取、RAG生产流水线实战。含完整代码示例与性能优化方案。
MarkItDown
微软
文档转换
Markdown
LLM
RAG
Python
开源
DiffusionGemma 深度实战:当文本扩散重新定义本地AI推理——从'打字机'到'印刷机'的4倍速架构革命
编程
DiffusionGemma 深度实战:当文本扩散重新定义本地AI推理——从'打字机'到'印刷机'的4倍速架构革命
2026-06-12 17:21:39 +0800 CST
view 343
2026年6月Google发布DiffusionGemma,首个生产级文本扩散大模型,本地推理速度提升4倍。本文深入剖析其从自回归到并行生成的架构革命,附完整代码实战。
DiffusionGemma
文本扩散
本地AI
Gemma
大模型推理
扩散模型
Python
Ollama
TradingAgents 深度实战:从 78.7k Star 的多智能体交易框架到量化投研工程化完全指南
编程
TradingAgents 深度实战:从 78.7k Star 的多智能体交易框架到量化投研工程化完全指南
2026-05-24 06:38:48 +0800 CST
view 1152
深度拆解 TradingAgents 多智能体交易框架的架构设计,从 LangGraph 状态图编排到结构化辩论机制,完整代码实战指南
AI Agent
量化交易
LangGraph
多智能体
LLM
万字深度解析 Microsoft VibeVoice:当开源遇上前沿语音AI——从 TTS 到 ASR 的全栈语音合成与识别技术革命(2026)
编程
万字深度解析 Microsoft VibeVoice:当开源遇上前沿语音AI——从 TTS 到 ASR 的全栈语音合成与识别技术革命(2026)
2026-07-01 04:12:36 +0800 CST
view 306
2026年Microsoft Research开源VibeVoice,支持90分钟TTS连续生成、60分钟ASR单次处理。深度解析Next-Token Diffusion架构、7.5Hz超低频Tokenizer、多说话人建模与vLLM推理加速。
VibeVoice
Microsoft
TTS
ASR
语音AI
开源
Next-Token Diffusion
LLM
Diffusion
170亿参数撬动万亿算力:Llama 4 Scout/Maverick如何用MoE架构重新定义开源大模型
编程
170亿参数撬动万亿算力:Llama 4 Scout/Maverick如何用MoE架构重新定义开源大模型
2026-05-11 20:48:39 +0800 CST
view 680
深度解析Llama 4 Scout/Maverick的MoE架构、128专家设计、1000万token超长上下文,附本地部署实战与许可证分析
Meta
Llama4
MoE
开源大模型
混合专家架构
Scout
Maverick
iRoPE
Understand Anything 深度实战:当知识图谱颠覆代码理解——从多智能体管道到可交互代码地图的完整指南(2026)
编程
Understand Anything 深度实战:当知识图谱颠覆代码理解——从多智能体管道到可交互代码地图的完整指南(2026)
2026-06-17 21:26:38 +0800 CST
view 571
Understand Anything 将任意代码库转化为交互式知识图谱,用多智能体管道解决代码理解难题。本文深度解析其架构设计与实战应用。
AI
LLM
代码分析
知识图谱
GitHub
Claude
多智能体
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
76
77
78
79
80
...
99
下一页