LLM安全-程序员茄子

AI Agent 工具链安全：从 Prompt 注入到工具滥用的完整攻防实战指南
2026-07-08 08:50:06 +0800 CST view 609
一文讲透 AI Agent 面临的六大攻击向量、四层防御架构、三个生产级防御框架，附完整代码示例与红蓝对抗实战经验。
AI Agent 安全 Prompt注入 LLM安全攻防实战

LLM 推理引擎 2026 终极对决：vLLM、SGLang、TensorRT-LLM、LMDeploy 谁才是你的最优解？

编程

LLM 推理引擎 2026 终极对决：vLLM、SGLang、TensorRT-LLM、LMDeploy 谁才是你的最优解？
2026-08-16 07:15:42 +0800 CST view 136
深度拆解四大主流LLM推理引擎——vLLM、SGLang、TensorRT-LLM、LMDeploy——从核心架构、关键技术、性能基准到选型决策，配完整代码实战，帮你找到最适合业务场景的最优解。
LLM推理 vLLM SGLang TensorRT-LLM LMDeploy PagedAttention RadixAttention 性能优化大模型部署

GitHub史上最大规模供应链级联攻击：3,800个内部仓库被窃——从TanStack投毒到"国家安全部"警告的完整技术剖析（2026）

编程

GitHub史上最大规模供应链级联攻击：3,800个内部仓库被窃——从TanStack投毒到"国家安全部"警告的完整技术剖析（2026）
2026-06-22 13:57:19 +0800 CST view 530
2026年6月，GitHub史上最大规模供应链级联攻击爆发。攻击者从TanStack npm投毒切入，经Nx贡献者凭证窃取、Nx Console VS Code扩展投毒，最终在48小时内窃取GitHub约3,800个内部仓库。本文深度还原完整攻击链，剖析Mastra、Miasma等连锁事件，并提供从个人到企业的完整防御方案。
供应链安全 npm投毒 GitHub安全网络安全 CVE-2026 开源安全

VS Code插件投毒事件深度解析：GitHub 3800个内部仓库被盗背后的供应链安全危机——从攻击链、权限提升到防御体系完全指南（2026）

编程

VS Code插件投毒事件深度解析：GitHub 3800个内部仓库被盗背后的供应链安全危机——从攻击链、权限提升到防御体系完全指南（2026）
2026-05-29 07:38:26 +0800 CST view 692
2026年5月GitHub因员工安装被投毒的VS Code插件导致3800个内部仓库被盗。本文深度分析攻击链、VS Code插件权限机制、供应链安全危机，并提供从个人到企业的完整防御体系构建方案。
VS Code插件安全 GitHub安全事件供应链安全软件安全插件投毒

供应链攻击新战场：VS Code插件投毒如何端走GitHub 3800个内部仓库——攻击链深度剖析与零信任防御体系构建（2026）

编程

供应链攻击新战场：VS Code插件投毒如何端走GitHub 3800个内部仓库——攻击链深度剖析与零信任防御体系构建（2026）
2026-05-29 07:39:13 +0800 CST view 733
2026年5月GitHub因员工安装被投毒的VS Code插件导致3800个内部仓库被盗。本文深度分析攻击链、VS Code插件权限机制、供应链安全危机，并提供从个人到企业的完整防御体系构建方案。
VS Code插件安全 GitHub安全事件供应链安全软件安全插件投毒

LLM推理框架2026选型完全指南：从vLLM到TensorRT-LLM，一次讲透四大引擎的架构哲学与生产级实战

编程

LLM推理框架2026选型完全指南：从vLLM到TensorRT-LLM，一次讲透四大引擎的架构哲学与生产级实战
2026-06-02 09:36:52 +0800 CST view 863
从vLLM到TensorRT-LLM，一次讲透vLLM、SGLang、TensorRT-LLM、llama.cpp四大LLM推理框架的架构哲学、核心原理、生产级部署实战与选型决策树。
LLM vLLM TensorRT-LLM llama.cpp SGLang 推理优化 GPU

2026年大模型推理框架横评：vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9

编程

2026年大模型推理框架横评：vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
2026-07-10 17:44:16 +0800 CST view 473
深度对比2026年四大主流LLM推理框架：vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9，涵盖PagedAttention、FP8量化、ZeRO-3、连续批处理等核心技术原理，配生产级代码示例与实测性能数据。
LLM vLLM TensorRT-LLM TGI DeepSpeed 推理优化量化 AI部署

LLM推理引擎终极对决：vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南

编程

LLM推理引擎终极对决：vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
2026-04-20 13:45:31 +0800 CST view 954
深度对比vLLM与TensorRT-LLM两大LLM推理框架，从PagedAttention到Kernel Fusion，从量化技术到生产部署，助你做出正确的技术选型决策
LLM vLLM TensorRT-LLM 推理优化大模型部署量化技术 AI工程

2026 LLM 推理框架深度拆解：当 vLLM 0.5 决定「让 PagedAttention 吞掉最后一块显存碎片」——从 PagedAttention 到 FlashAttention 3.0，四大推理框架如何用「算子融合 + 量化混合 + 动态批处理」重新定义大模型推理的终极形态

编程

2026 LLM 推理框架深度拆解：当 vLLM 0.5 决定「让 PagedAttention 吞掉最后一块显存碎片」——从 PagedAttention 到 FlashAttention 3.0，四大推理框架如何用「算子融合 + 量化混合 + 动态批处理」重新定义大模型推理的终极形态
2026-08-06 06:16:32 +0800 CST view 209
深度拆解2026年四大主流LLM推理框架：vLLM 0.5 PagedAttention进化、TGI 2.0流式输出优化、TensorRT-LLM 1.8算子融合、DeepSpeed-MII 0.9自动优化，含完整架构分析、代码实战、性能基准测试与成本计算
LLM vLLM TensorRT-LLM 推理框架 PagedAttention 量化 GPU H100 大模型 DeepSpeed TGI

2026大模型推理框架年度横评：vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南

编程

2026大模型推理框架年度横评：vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
2026-06-18 17:54:54 +0800 CST view 907
深度横评2026年四大主流大模型推理框架，涵盖PagedAttention架构、ContinuousBatching、算子融合、FP8量化、NVMe卸载等核心技术，配实测数据与生产级选型指南
大模型 LLM 推理框架 vLLM TensorRT-LLM TGI DeepSpeed GPU推理 AI部署 NVIDIA

LLM推理引擎深度实战：从PagedAttention到生产级部署，万字长文吃透2026年最关键的AI基础设施

编程

LLM推理引擎深度实战：从PagedAttention到生产级部署，万字长文吃透2026年最关键的AI基础设施
2026-06-27 12:44:29 +0800 CST view 418
2026年LLM推理引擎深度实战：从PagedAttention、连续批处理、量化技术到生产级K8s部署，万字长文覆盖vLLM、SGLang、TensorRT-LLM、TGI四大框架架构原理与实测对比
LLM推理 vLLM PagedAttention SGLang 推理优化 TensorRT-LLM 生产部署 KV Cache 量化

KV Cache 显存优化深度解析：从 PagedAttention 到 2026 年最新压缩技术演进

编程

KV Cache 显存优化深度解析：从 PagedAttention 到 2026 年最新压缩技术演进
2026-08-01 15:47:00 +0800 CST view 216
从第一性原理深度剖析 KV Cache 显存困境，系统拆解 PagedAttention 核心原理，对比 vLLM/TensorRT-LLM/SGLang 三大推理框架技术路线，涵盖 FP8/INT4 量化、前缀缓存、StreamingLLM 等 2026 年最新压缩技术，含完整代码示例与生产调优指南。
KV Cache PagedAttention vLLM TensorRT-LLM SGLang LLM推理 GPU优化显存优化量化深度学习

LLM 推理框架选型实战：vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南

编程

LLM 推理框架选型实战：vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
2026-07-03 13:49:04 +0800 CST view 504
深度对比 vLLM 0.5、TensorRT-LLM 1.8、TGI 2.0、DeepSpeed-MII 0.9 四大推理框架，从核心技术原理、性能数据、成本账本到生产部署实战，帮你做出正确的框架选型决策。
LLM vLLM TensorRT-LLM TGI DeepSpeed 推理优化大模型部署 GPU优化

LMCache 实战：大模型推理的 KV Cache 终极优化方案

编程

LMCache 实战：大模型推理的 KV Cache 终极优化方案
2026-07-23 08:44:51 +0800 CST view 228
LMCache 实战指南：通过智能 KV Cache 管理，实现 LLM 推理吞吐量最高 10 倍提升，显存占用降低 40%-60%。包含 vLLM/TGI 集成、分布式缓存、性能调优最佳实践。
LMCache KV Cache LLM推理优化 vLLM RAG性能优化

万字深度解析 LMCache：当 LLM 推理遇见「KV 缓存革命」——从 Transformer 注意力机制到多层存储分级、从 vLLM/SGLang 集成到生产级 PD 拆分的完整技术指南（2026）

编程

万字深度解析 LMCache：当 LLM 推理遇见「KV 缓存革命」——从 Transformer 注意力机制到多层存储分级、从 vLLM/SGLang 集成到生产级 PD 拆分的完整技术指南（2026）
2026-07-02 08:42:52 +0800 CST view 419
深度解析 LMCache 开源项目：LLM 推理 KV 缓存管理层，涵盖架构设计、多级存储、Multiprocess 模式、非前缀复用、PD 拆分等核心技术，15+ 可运行代码示例。
LMCache LLM推理 KV缓存 vLLM SGLang AI推理优化 GPU优化分布式缓存

万字深度解析 LMCache：当 KV Cache 遇见分布式存储革命——从常数级显存到千亿Token并发的完整技术指南（2026）

编程

万字深度解析 LMCache：当 KV Cache 遇见分布式存储革命——从常数级显存到千亿Token并发的完整技术指南（2026）
2026-07-02 13:46:08 +0800 CST view 481
深度解析 LMCache 开源 KV Cache 管理层项目：从三层存储架构、多后端支持、Disaggregated Prefill、CacheBlend、Segmented Prefill、P2P 共享到 Kubernetes 生产级部署的完整技术指南，含性能基准测试与代码实战
LMCache KV Cache LLM vLLM 分布式 RDMA Kubernetes 推理优化 Redis NIXL

LMCache 深度拆解：当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南

编程

LMCache 深度拆解：当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
2026-07-14 18:47:11 +0800 CST view 234
深度拆解 LMCache 项目：从 Transformer Attention 机制出发，详细讲解 KV Cache 原理、三层存储架构、生产部署实战、Docker Compose 配置、CacheGen 压缩算法、PD 分离、跨实例 KV Cache 共享，以及与 vLLM/SGLang 的集成，配完整代码示例与性能调优指南。实测 DeepSeek 多轮对话 3~5 倍 TTFT 改善。
LMCache KV Cache LLM推理 vLLM SGLang 推理优化 DeepSeek 分布式缓存

万字深度解析 LMCache：当 LLM 推理遇见 KV Cache 革命——从 TTFT 优化到跨引擎 KV 复用、从 GPU/CPU/Disk 三级存储到分布式 P2P 共享的完整技术指南（2026）

编程

万字深度解析 LMCache：当 LLM 推理遇见 KV Cache 革命——从 TTFT 优化到跨引擎 KV 复用、从 GPU/CPU/Disk 三级存储到分布式 P2P 共享的完整技术指南（2026）
2026-07-03 03:14:31 +0800 CST view 416
深度解析LMCache KV Cache管理层：从TTFT优化原理、GPU/CPU/Disk三级存储架构、跨引擎KV复用、分布式P2P共享，到与vLLM深度集成的生产级部署实战，含完整代码和性能调优指南。
LMCache LLM推理 KV Cache vLLM TTFT优化 GPU优化 AI推理加速分布式缓存

vLLM V1 深度拆解：当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板

编程

vLLM V1 深度拆解：当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
2026-08-03 09:43:58 +0800 CST view 212
深度拆解vLLM V1引擎四大核心架构：PagedAttention V2融合块表与前缀树缓存、分离式推理Prefill/Decode架构、KV Connector标准化接口、LMCache三层KV Cache管理，附完整部署配置与性能基准测试
vLLM PagedAttention LMCache 分离式推理大模型推理 KV Cache 推理引擎 LLM Serving GPU优化开源

CVE-2026-47101 深度解析：当 AI 网关的 RBAC 被一行 API 调用彻底瓦解——从权限校验缺陷到 proxy_admin 提权的全链路完全指南（2026）

编程

CVE-2026-47101 深度解析：当 AI 网关的 RBAC 被一行 API 调用彻底瓦解——从权限校验缺陷到 proxy_admin 提权的全链路完全指南（2026）
2026-06-15 12:16:01 +0800 CST view 980
2026年AI基础设施领域最危险的安全事件之一：CVE-2026-47101 LiteLLM权限提升漏洞深度解析，CVSS 8.8，影响全球11.8万+实例，从漏洞根因到生产修复全链路指南
CVE LiteLLM RBAC AI安全权限提升 Python 漏洞分析网络安全 AI基础设施

2026年6月开源供应链安全危机全景：从AUR 1500+包投毒到npm/JetBrains/Steam多线攻击，你的代码环境还安全吗？

编程

2026年6月开源供应链安全危机全景：从AUR 1500+包投毒到npm/JetBrains/Steam多线攻击，你的代码环境还安全吗？
2026-06-21 13:55:43 +0800 CST view 1117
2026年6月开源供应链安全风暴全景分析：AUR 1500+包投毒技术解析、npm Mastra劫持、JetBrains恶意插件、Steam Workshop木马，含完整防御方案和审计工具代码实战
开源安全供应链攻击 AUR npm 安全审计网络安全

eBPF 安全监控深度拆解：当内核终于长出「免疫系统」——从 Tetragon 到 LSM BPF 的零信任防护革命

编程

eBPF 安全监控深度拆解：当内核终于长出「免疫系统」——从 Tetragon 到 LSM BPF 的零信任防护革命
2026-08-12 14:15:20 +0800 CST view 128
深度拆解 eBPF 安全监控技术：从 Tetragon 架构到 LSM BPF 实战，涵盖进程监控、网络追踪、实时拦截、零信任防护，含完整代码示例与 15 条生产踩坑清单。
eBPF LSM BPF Tetragon 容器安全内核安全云原生安全实时防护零信任 Kubernetes

Shannon 深度解析：当 AI Agent 把渗透测试变成一场「无人驾驶」

编程

Shannon 深度解析：当 AI Agent 把渗透测试变成一场「无人驾驶」
2026-04-10 02:55:17 +0800 CST view 1342
当 AI Agent 把渗透测试变成一场「无人驾驶」：深度解析 KeygraphHQ 开源的 Shannon 项目，16k Stars，XBOW 基准 96.15% 成功率，四阶段 Agent 流水线实现零误报渗透测试。
AI安全渗透测试 Agent 自动化安全网络安全

大家都在搜索什么？

devops 易支付一个官网+多少钱统一接受回调统一回调 sub node 宝塔日志 mysql shell ElasticSearch css vue api接口对接 2025 支付接口对接 go php php回调回调

AI,自己全程接管维护

AI Agent 工具链安全：从 Prompt 注入到工具滥用的完整攻防实战指南

LLM 推理引擎 2026 终极对决：vLLM、SGLang、TensorRT-LLM、LMDeploy 谁才是你的最优解？

GitHub史上最大规模供应链级联攻击：3,800个内部仓库被窃——从TanStack投毒到"国家安全部"警告的完整技术剖析（2026）

VS Code插件投毒事件深度解析：GitHub 3800个内部仓库被盗背后的供应链安全危机——从攻击链、权限提升到防御体系完全指南（2026）

供应链攻击新战场：VS Code插件投毒如何端走GitHub 3800个内部仓库——攻击链深度剖析与零信任防御体系构建（2026）

LLM推理框架2026选型完全指南：从vLLM到TensorRT-LLM，一次讲透四大引擎的架构哲学与生产级实战

2026年大模型推理框架横评：vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9

LLM推理引擎终极对决：vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南

2026 LLM 推理框架深度拆解：当 vLLM 0.5 决定「让 PagedAttention 吞掉最后一块显存碎片」——从 PagedAttention 到 FlashAttention 3.0，四大推理框架如何用「算子融合 + 量化混合 + 动态批处理」重新定义大模型推理的终极形态

2026大模型推理框架年度横评：vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南

LLM推理引擎深度实战：从PagedAttention到生产级部署，万字长文吃透2026年最关键的AI基础设施

KV Cache 显存优化深度解析：从 PagedAttention 到 2026 年最新压缩技术演进

LLM 推理框架选型实战：vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南

LMCache 实战：大模型推理的 KV Cache 终极优化方案

万字深度解析 LMCache：当 LLM 推理遇见「KV 缓存革命」——从 Transformer 注意力机制到多层存储分级、从 vLLM/SGLang 集成到生产级 PD 拆分的完整技术指南（2026）

万字深度解析 LMCache：当 KV Cache 遇见分布式存储革命——从常数级显存到千亿Token并发的完整技术指南（2026）

LMCache 深度拆解：当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南

万字深度解析 LMCache：当 LLM 推理遇见 KV Cache 革命——从 TTFT 优化到跨引擎 KV 复用、从 GPU/CPU/Disk 三级存储到分布式 P2P 共享的完整技术指南（2026）

vLLM V1 深度拆解：当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板

Apache APISIX 深度拆解：从 API 网关到 AI 网关——当 Lua 脚本引擎遇上 20+ LLM 提供商，手写一个生产级 AI 流量治理平台

CVE-2026-47101 深度解析：当 AI 网关的 RBAC 被一行 API 调用彻底瓦解——从权限校验缺陷到 proxy_admin 提权的全链路完全指南（2026）

2026年6月开源供应链安全危机全景：从AUR 1500+包投毒到npm/JetBrains/Steam多线攻击，你的代码环境还安全吗？

eBPF 安全监控深度拆解：当内核终于长出「免疫系统」——从 Tetragon 到 LSM BPF 的零信任防护革命

Shannon 深度解析：当 AI Agent 把渗透测试变成一场「无人驾驶」

大家都在搜索什么？