程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 终结 GPU 显存浪费——从推理引擎原理到生产级高并发部署的完全指南(2026)
2026-06-11 03:16:24 +0800 CST
view 523
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
编程
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
2026-08-04 19:22:29 +0800 CST
view 13
深度拆解SGLang 27K Star开源LLM推理框架:RadixAttention基数树前缀缓存实现3-8倍加速、自研FlashInfer CUDA Kernel、Prefill-Decode分离架构、GB300 NVL72上25倍性能飞跃、DFlash投机采样、多LoRA热切换,附完整部署与调优指南
SGLang
LLM推理
RadixAttention
FlashInfer
GPU加速
大模型部署
推理引擎
PagedAttention
PD分离
投机采样
CUDA
开源
你睡觉,AI 干活:Karpathy 的 AutoResearch 如何让大模型自己学会训练自己
编程
你睡觉,AI 干活:Karpathy 的 AutoResearch 如何让大模型自己学会训练自己
2026-04-19 18:47:36 +0800 CST
view 904
深入解析 Andrej Karpathy 的 AutoResearch 开源项目,揭示其让 AI agent 自主修改训练代码、在真实执行中验证改进的核心机制,探讨对算法工程师职业的影响。
AI研究
机器学习
AutoML
LLM训练
Andrej Karpathy
GitHub开源
自动化调参
Python
研究效率
Agent
obra/superpowers 深度实战:用工程纪律驯服 AI 编程 Agent——从 Prompt 工程到 Process 工程的范式转移
编程
obra/superpowers 深度实战:用工程纪律驯服 AI 编程 Agent——从 Prompt 工程到 Process 工程的范式转移
2026-05-23 05:45:11 +0800 CST
view 571
深度解析 GitHub 20万星开源项目 obra/superpowers,探讨如何用工程纪律(TDD、任务拆解、代码审查)驯服 AI 编程 Agent,从 Prompt 工程到 Process 工程的范式转移。
AI编程
Agent框架
软件工程
LLM
GitHub开源
stop-slop 深度实战:让 AI 写作告别"机器味"——从 AI Tells 识别到零痕迹输出的完全指南(2026)
编程
stop-slop 深度实战:让 AI 写作告别"机器味"——从 AI Tells 识别到零痕迹输出的完全指南(2026)
2026-06-02 15:55:21 +0800 CST
view 861
深度解析 stop-slop 项目,系统性移除 AI 写作痕迹的实战指南,涵盖规则体系、评分标准、实战集成与完整代码示例。
AI写作
stop-slop
LLM
提示工程
技术写作
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
编程
vLLM 0.17 深度实战:PagedAttention与连续批处理如何把GPU吞吐量提升4倍——从KV Cache原理到生产级大模型推理部署完全指南(2026)
2026-06-11 03:17:21 +0800 CST
view 895
深度解析vLLM推理引擎的PagedAttention原理、连续批处理、量化优化,以及从零搭建生产级高并发部署的完整实战指南(2026版)
vLLM
PagedAttention
大模型推理
GPU优化
AI部署
Onyx 深度解析:当开源AI平台把「企业级能力」变成「一键部署」
编程
Onyx 深度解析:当开源AI平台把「企业级能力」变成「一键部署」
2026-04-10 07:36:00 +0800 CST
view 532
Onyx 是 26k+ stars 的开源AI平台,提供 Agentic RAG、Deep Research、Custom Agents、MCP 等企业级能力。本文深度解析其架构设计、核心功能和部署实战,是私有AI部署的标准答案。
Onyx
开源AI
RAG
企业AI
LLM平台
LLM 驱动的自动化漏洞挖掘:从 AIxVuln 到 Wiz 实战,多 Agent 如何重塑安全攻防体系
编程
LLM 驱动的自动化漏洞挖掘:从 AIxVuln 到 Wiz 实战,多 Agent 如何重塑安全攻防体系
2026-05-23 06:17:17 +0800 CST
view 501
深入解析 LLM 驱动的自动化漏洞挖掘技术,从 AIxVuln 多 Agent 架构到 Wiz 发现 GitHub CVE-2026-3854 的实战案例,覆盖架构设计、代码实战、性能优化与安全边界
AI安全
漏洞挖掘
LLM
多Agent
Docker沙箱
Wiz
GitHub
CVE
Everything Claude Code (ECC) 深度实战:当AI编程助手拥有48位专家团队成员——从182个Skill到Token优化、从MCP集成到生产级部署的完全指南(2026)
编程
Everything Claude Code (ECC) 深度实战:当AI编程助手拥有48位专家团队成员——从182个Skill到Token优化、从MCP集成到生产级部署的完全指南(2026)
2026-06-22 09:25:50 +0800 CST
view 520
Everything Claude Code (ECC) 是2026年GitHub最火的AI编程项目,近20万Star。本文深度解析ECC的六大核心模块、48个专业Agent、182个工作流Skill,以及Token优化、MCP集成、生产级部署等实战内容。
Claude Code
AI编程
ECC
Agent
LLM
大模型推理框架 2026 终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构内核、性能基准到成本防线的生产级全景解析
编程
大模型推理框架 2026 终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构内核、性能基准到成本防线的生产级全景解析
2026-07-11 13:14:24 +0800 CST
view 297
深度拆解2026年四大主流LLM推理框架(vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9)的技术内核,通过统一性能基准测试,量化对比吞吐量、延迟、成本等核心指标,提供不同场景的技术选型建议和实战代码示例。
大模型
推理优化
vLLM
TensorRT
性能调优
成本控制
生产部署
Headroom深度解析:AI Agent上下文压缩层的架构革命——Token成本暴降95%与可逆压缩的完整实战指南
编程
Headroom深度解析:AI Agent上下文压缩层的架构革命——Token成本暴降95%与可逆压缩的完整实战指南
2026-07-05 21:12:46 +0800 CST
view 399
深度解析Headroom上下文压缩中间层:六大压缩算法(SmartCrusher/CodeCompressor/Kompress-base/ImageCompressor/IntelligentContext/CacheAligner)、CCR可逆压缩、跨Agent记忆共享、KV Cache命中率优化。含完整代码实战、基准测试对比、竞品分析与生产部署指南。
Headroom
AI Agent
上下文压缩
Token优化
CCR
可逆压缩
Context Engineering
KV Cache
LLM
Python
60行CLAUDE.md,25K Stars:Karpathy揭示的LLM编程四大致命陷阱与工程解法
编程
60行CLAUDE.md,25K Stars:Karpathy揭示的LLM编程四大致命陷阱与工程解法
2026-04-19 23:44:59 +0800 CST
view 910
深度解析GitHub 25K Stars项目forrestchang/andrej-karpathy-skills,揭示LLM编程工具的四大系统性缺陷,详解Karpathy四大编码原则在工程实践中的落地方法。
Claude Code
LLM
AI编程
Karpathy
工程实践
MarkItDown 深度拆解:微软如何用一个 Converter 注册表吃掉 RAG 60% 的脏活
编程
MarkItDown 深度拆解:微软如何用一个 Converter 注册表吃掉 RAG 60% 的脏活
2026-07-29 07:13:55 +0800 CST
view 110
深度拆解微软开源的 MarkItDown:Converter 注册表架构、StreamInfo 三重类型探测、PPTX 视觉排序、多模态 LLM 图片描述、MCP 集成与自定义插件开发,附 RAG 批量入库流水线实战与生产避坑指南。
MarkItDown
RAG
文档预处理
Markdown
LLM
MCP
Python
开源
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
2026-08-04 22:46:33 +0800 CST
view 15
深度拆解Redis创始人antirez打造的DwarfStar 4本地推理引擎:专用MoE推理栈、非对称2-Bit量化、磁盘KV缓存、SSD流式加载、多机流水线并行,在128GB MacBook上跑出26 tok/s的284B模型推理
DwarfStar
Redis
antirez
DeepSeek
MoE
本地推理
LLM
推理引擎
2-Bit量化
KV缓存
Apple Metal
CUDA
开源
编程
MarkItDown 深度实战:当微软用 Python 把「文档地狱」变成 Markdown 乐园——从多格式解析到 RAG 知识库落地的生产级完全指南(2026)
2026-06-16 23:52:04 +0800 CST
view 413
微软开源MarkItDown深度实战:从多格式文档解析到RAG知识库落地的完全指南,涵盖PDF/Word/Excel/PPT转换、LangChain/LlamaIndex集成、性能优化与安全防护
MarkItDown
Python
RAG
文档转换
Markdown
LLM
知识库
微软
AI Agent
LangChain
字节跳动开源的 Go Agent 框架,10K+ Stars 填补 Go 无 LangChain 的空白
编程
字节跳动开源的 Go Agent 框架,10K+ Stars 填补 Go 无 LangChain 的空白
2026-07-05 22:29:19 +0800 CST
view 261
字节跳动CloudWeGo团队开源的Go-first LLM应用框架,组合优于继承、流式优先、Agent原生,支持五种协作模式和五种人机交互模式。
Go
AI
Agent
字节跳动
Eino
LangChain
LLM
开源
LightRAG 深度拆解:当 RAG 决定「干掉全部纯向量检索」——一个 38K Star 的知识图谱引擎如何用实体-关系双层检索重新定义检索增强生成的终极形态
编程
LightRAG 深度拆解:当 RAG 决定「干掉全部纯向量检索」——一个 38K Star 的知识图谱引擎如何用实体-关系双层检索重新定义检索增强生成的终极形态
2026-08-04 23:15:13 +0800 CST
view 17
深度拆解38K Star开源RAG框架LightRAG:实体-关系双层检索架构、六种检索模式、Neo4j/PostgreSQL可插拔存储、RRF融合排序算法、多模态支持,附完整代码实战与性能基准对比
LightRAG
知识图谱
RAG
向量检索
EMNLP
Python
LLM
检索增强生成
HKUDS
开源
VibeVoice 深度解析:微软如何用 7.5Hz 超低帧率暴力破解 90 分钟长语音合成——开源语音 AI 的技术革命
编程
VibeVoice 深度解析:微软如何用 7.5Hz 超低帧率暴力破解 90 分钟长语音合成——开源语音 AI 的技术革命
2026-05-10 23:20:20 +0800 CST
view 688
深度解析微软开源语音 AI 项目 VibeVoice 的技术架构——从 7.5Hz 超低帧率分词器到 Next-Token Diffusion 框架,一次性处理 90 分钟多说话人音频的革命性突破。
VibeVoice
语音AI
TTS
ASR
微软
开源模型
LLM
扩散模型
OpenCodeReview 深度拆解:当阿里巴巴决定「干掉 AI 代码审查的全部噪声」——一个 18.7K Star 的 Go 工具如何用确定性工程 × Agent 混合架构重新定义代码审查的终极形态
编程
OpenCodeReview 深度拆解:当阿里巴巴决定「干掉 AI 代码审查的全部噪声」——一个 18.7K Star 的 Go 工具如何用确定性工程 × Agent 混合架构重新定义代码审查的终极形态
2026-08-05 00:44:59 +0800 CST
view 20
深度拆解阿里巴巴开源AI代码审查工具OpenCodeReview:确定性工程×Agent混合架构、行级精度评论定位、1/9 Token消耗、18.7K Star背后的架构设计与实战部署指南
OpenCodeReview
阿里巴巴
代码审查
AI Code Review
Go语言
LLM
Agent
静态分析
CI/CD
GitHub Actions
DFlash 深度实战:块扩散模型如何实现 6 倍无损加速——从自回归瓶颈到并行生成的范式跃迁
编程
DFlash 深度实战:块扩散模型如何实现 6 倍无损加速——从自回归瓶颈到并行生成的范式跃迁
2026-05-23 11:16:44 +0800 CST
view 568
深度解析UC San Diego Z Lab提出的DFlash(Block Diffusion for Flash Speculative Decoding),详解块扩散草稿模型如何突破自回归瓶颈,在Qwen3-8B上实现6倍无损加速的架构原理、训练方法与生产级实战代码
LLM推理,投机解码,块扩散模型,大模型加速,DFlash,Speculative Decoding,UC San Diego,PyTorch,深度学习,AI推理优化
OmniRoute 深度拆解:一个端点接住 268 家模型提供商,AI 网关的路由决策链、多层回退与上下文压缩实战
编程
OmniRoute 深度拆解:一个端点接住 268 家模型提供商,AI 网关的路由决策链、多层回退与上下文压缩实战
2026-07-24 05:14:12 +0800 CST
view 192
深度拆解 GitHub Trending 冲榜的 OmniRoute:一个 OpenAI 兼容端点接住 268+ 提供商。从协议归一、责任链路由决策、多层回退与熔断、上下文压缩到自托管部署与可观测性,配可运行代码,带你彻底看懂并手撸一个精简版 AI 网关。
OmniRoute
AI网关
LLM路由
多模型
上下文压缩
责任链模式
熔断降级
自托管
OpenAI兼容
FastAPI
你睡觉AI在训练:Karpathy AutoResearch如何让AI自主优化GPT模型
编程
你睡觉AI在训练:Karpathy AutoResearch如何让AI自主优化GPT模型
2026-04-11 10:54:43 +0800 CST
view 611
深入解析Karpathy开源的AutoResearch框架,探讨AI自主训练循环的工程实现与研究范式转变
AI
Karpathy
AutoML
LLM
GitHub
Langfuse深度解析:ClickHouse加持的开源LLM可观测性平台——从Trace追踪到Prompt管理的AI工程化完整实战指南
编程
Langfuse深度解析:ClickHouse加持的开源LLM可观测性平台——从Trace追踪到Prompt管理的AI工程化完整实战指南
2026-07-06 00:14:59 +0800 CST
view 265
深度解析Langfuse开源AI工程平台:ClickHouse高性能Trace存储、三大核心模块(Observability/Prompt Management/Evaluation)、Python/JS SDK完整代码实战、Docker Compose自部署指南、与LangSmith/Helicone竞品对比、ClickHouse收购战略分析
Langfuse
LLM
可观测性
ClickHouse
OpenTelemetry
AI工程
Trace追踪
Prompt管理
TradingAgents 深度拆解:当 UCLA 决定「用 7 个 AI 打造一个华尔街」——多智能体 LLM 交易框架如何用结构化辩论和角色分工重新定义量化交易的终极形态
编程
TradingAgents 深度拆解:当 UCLA 决定「用 7 个 AI 打造一个华尔街」——多智能体 LLM 交易框架如何用结构化辩论和角色分工重新定义量化交易的终极形态
2026-08-05 01:45:55 +0800 CST
view 22
深度拆解UCLA开源多智能体LLM交易框架TradingAgents:7个专业化AI Agent模拟华尔街完整决策链,结构化辩论机制、角色分工架构、LangGraph实现,累计回报23.21%、夏普比率8.21,全面碾压传统量化策略
TradingAgents
多智能体
LLM
量化交易
LangGraph
金融AI
开源
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
6
7
8
9
10
...
29
下一页