程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
code-review-graph 深度拆解:Tree-sitter + MCP 如何把代码库编译成图,让 AI 审查省下几百倍 token
编程
code-review-graph 深度拆解:Tree-sitter + MCP 如何把代码库编译成图,让 AI 审查省下几百倍 token
2026-07-24 04:14:57 +0800 CST
view 293
深度拆解 GitHub Trending 冲榜项目 code-review-graph:用 Tree-sitter 把代码库编译成 SQLite 知识图谱,通过 MCP 为 AI 只喂最小审查集,token 省下 38~528 倍。含节点/边模型、影响半径有界BFS、SHA-256增量更新、30个MCP工具编排、Leiden社区检测与embedding选型实战。
code-review-graph
MCP
Tree-sitter
AI代码审查
知识图谱
Claude Code
token优化
Cursor
代码依赖图
开源
Headroom 深度实战:当 AI Agent 遇到上下文压缩革命——从 Token 成本暴降95%到MCP原生集成的生产级完全指南(2026)
编程
Headroom 深度实战:当 AI Agent 遇到上下文压缩革命——从 Token 成本暴降95%到MCP原生集成的生产级完全指南(2026)
2026-06-17 02:24:26 +0800 CST
view 519
深度拆解Headroom上下文压缩层的核心原理、架构设计与生产级实战,实测Token成本暴降95%,附完整代码示例与部署优化方案
AI Agent
上下文压缩
Token优化
MCP
Headroom
code-review-graph:AI 代码审查省 82 倍 Token,爆炸半径分析精准定位影响范围
编程
code-review-graph:AI 代码审查省 82 倍 Token,爆炸半径分析精准定位影响范围
2026-07-18 10:42:10 +0800 CST
view 200
code-review-graph(19.7K Star)构建代码库结构化依赖图谱,让AI只读相关文件:Tree-sitter解析+SQLite存储+SHA-256增量更新+爆炸半径分析,fastapi项目省528倍Token,中位数82倍,支持30+语言,支持Cursor/Claude Code/Copilot/Gemini CLI。
code-review-graph
AI代码审查
Token优化
结构化图谱
爆炸半径分析
Tree-sitter
Cursor
Claude Code
开源
Monorepo
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
编程
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
2026-07-24 06:14:45 +0800 CST
view 212
深度对比vLLM与SGLang两大LLM推理引擎:PagedAttention vs RadixAttention,Continuous Batching原理,吞吐与延迟实战选型指南
vLLM
SGLang
LLM推理
PagedAttention
RadixAttention
Continuous Batching
GPU优化
推理引擎
Svelte 5 深度解析:编译时框架的革命——细粒度响应、零运行时与Runes系统如何颠覆前端开发
编程
Svelte 5 深度解析:编译时框架的革命——细粒度响应、零运行时与Runes系统如何颠覆前端开发
2026-05-11 03:18:04 +0800 CST
view 496
Svelte 5深度解析:Runes系统、细粒度响应、零运行时开销如何颠覆前端开发
Svelte,前端框架,JavaScript,编译时优化,响应式编程
DeepSeek V4 Flash 深度解析:MoE架构如何重塑大模型推理效率
编程
DeepSeek V4 Flash 深度解析:MoE架构如何重塑大模型推理效率
2026-06-30 09:46:12 +0800 CST
view 446
2026年,大模型战场迎来最激烈的性能竞赛。DeepSeek V4 Flash以2840亿总参数、130亿激活参数、百万token上下文支持,横扫开源模型性能榜单。本文从开发者视角出发,深入剖析其MoE架构设计、推理优化策略、国产算力适配,以及如何在实际项目中用好这个'性价比之王'。
MoE架构
DeepSeek
V4 Flash
大模型
AI推理
开源模型
Python
代码优化
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
编程
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
2026-07-24 07:44:31 +0800 CST
view 176
KTransformers 通过 CPU/GPU 异构计算,让一块 RTX 5090(32GB 显存)能跑起 100B+ MoE 大模型,且无需量化压缩,保持原精度 FP16。实测比 llama.cpp Q8_0 快 4.5 倍。本文深度拆解其专家细粒度卸载、异步预取、DMA 优化等核心技术,以及实战部署指南。
KTransformers
LLM推理
MoE
异构计算
DeepSeek
SGLang
CPU Offload
本地部署
GPU优化
OmniRoute深度解析:聚合237+AI提供商的免费智能路由网关——从RTK+Caveman压缩到四级自动降级的完整实战指南
编程
OmniRoute深度解析:聚合237+AI提供商的免费智能路由网关——从RTK+Caveman压缩到四级自动降级的完整实战指南
2026-07-06 03:13:06 +0800 CST
view 560
深度解析OmniRoute开源AI网关:聚合237+提供商(50+免费)、RTK+Caveman双层Token压缩(节省15-95%)、四级自动降级、17种路由策略、三层弹性保障。含Python/Go/TypeScript完整代码实战、与LiteLLM/OpenRouter竞品对比、生产部署指南。
OmniRoute
AI网关
Token压缩
智能路由
LLM
开源
TypeScript
成本优化
code-review-graph 深度拆解:AI Coding 时代的"代码地图"——从全量扫描到精准上下文的工程革命
编程
code-review-graph 深度拆解:AI Coding 时代的"代码地图"——从全量扫描到精准上下文的工程革命
2026-07-24 08:43:15 +0800 CST
view 135
深度拆解 GitHub Trending 榜首 code-review-graph:Tree-sitter 增量解析、SQLite 知识图谱、爆炸半径分析、28个MCP工具全景解析,从全量扫描到精准上下文的工程革命。
code-review-graph
AI代码审查
Tree-sitter
MCP
知识图谱
AI编程
Token优化
LLM推理引擎终极对决:vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
编程
LLM推理引擎终极对决:vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
2026-04-20 13:45:31 +0800 CST
view 872
深度对比vLLM与TensorRT-LLM两大LLM推理框架,从PagedAttention到Kernel Fusion,从量化技术到生产部署,助你做出正确的技术选型决策
LLM
vLLM
TensorRT-LLM
推理优化
大模型部署
量化技术
AI工程
Headroom 深度实战:让 LLM Token 消耗暴减 95% 的压缩引擎——从语义熵编码到 RAG 块优化的完全指南(2026)
编程
Headroom 深度实战:让 LLM Token 消耗暴减 95% 的压缩引擎——从语义熵编码到 RAG 块优化的完全指南(2026)
2026-06-02 21:19:20 +0800 CST
view 1482
Headroom 是专为 LLM 设计的通用压缩层,以 Library、Proxy、MCP Server 三种形态存在,在信息不丢失的前提下把 Token 消耗砍掉 60-95%。本文从信息论底层原理讲起,完整拆解四层压缩管线,结合真实代码实战演示接入方式。
LLM
Token优化
GitHub Trending
Python
RAG
从140GB到4GB:AirLLM无量化层间推理原理深度剖析与生产级部署实战(2026)
编程
从140GB到4GB:AirLLM无量化层间推理原理深度剖析与生产级部署实战(2026)
2026-06-22 19:28:19 +0800 CST
view 407
深入解析 AirLLM 的无量化层间 Offloading 技术原理,探讨如何通过 CPU-GPU 混合推理在 4GB 显存上运行 70B 大模型,附完整代码实战与生产部署指南。
LLM推理
GPU优化
CPU Offload
层间调度
AirLLM
PyTorch
LCLM 深度实战:当「潜在上下文」颠覆大模型记忆困境——从 8.8 倍速提升到工业级部署的完整指南(2026)
编程
LCLM 深度实战:当「潜在上下文」颠覆大模型记忆困境——从 8.8 倍速提升到工业级部署的完整指南(2026)
2026-06-17 08:57:22 +0800 CST
view 341
深入解析2026年LCLM潜在上下文语言模型,8.8倍速度提升背后的技术原理与工业级部署实战,含完整代码示例与性能对比。
大模型
上下文压缩
KV缓存
LCLM
Transformer
AI优化
推理加速
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
编程
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
2026-05-17 04:14:18 +0800 CST
view 571
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
当「潜在上下文」颠覆大模型记忆困境:LCLM 8.8 倍速提升完整拆解与工业部署指南(2026)
编程
当「潜在上下文」颠覆大模型记忆困境:LCLM 8.8 倍速提升完整拆解与工业部署指南(2026)
2026-06-17 08:57:46 +0800 CST
view 360
深入解析2026年LCLM潜在上下文语言模型,8.8倍速度提升背后的技术原理与工业级部署实战,含完整代码示例与性能对比。
大模型
上下文压缩
KV缓存
LCLM
Transformer
AI优化
推理加速
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
编程
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
2026-05-17 04:14:33 +0800 CST
view 495
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
Headroom 深度实战:当 Netflix 工程师用「上下文压缩」掀翻 AI 成本底牌——从 CCR 可逆机制到跨 Agent 记忆的生产级完全指南(2026)
编程
Headroom 深度实战:当 Netflix 工程师用「上下文压缩」掀翻 AI 成本底牌——从 CCR 可逆机制到跨 Agent 记忆的生产级完全指南(2026)
2026-06-11 15:20:19 +0800 CST
view 660
Netflix工程师开源的AI上下文压缩工具Headroom,能在保持答案质量的前提下将Token消耗压缩60-95%,累计节省70万美元成本。本文深度剖析其架构设计、CCR可逆机制、跨Agent记忆共享与生产级集成实践。
AI编程
Token压缩
上下文管理
LLM优化
OpenSource
编程
TIME_WAIT状态的连接过多导致系统端口资源耗尽问题
2024-11-17 21:27:27 +0800 CST
view 3456
本文讨论了如何优化Linux系统中的TIME_WAIT状态,使用netstat命令查看TCP连接状态,并通过修改/etc/sysctl.conf文件中的相关参数来减少TIME_WAIT套接字的数量。具体参数包括开启SYNCookies、重用TIME-WAITsockets、快速回收TIME-WAITsockets等,最后通过执行/sysctl-p命令使修改生效。
Linux
网络优化
TCP配置
Headroom 深度拆解:当 AI Agent 学会「断舍离」——从上下文压缩层、CCR 可逆检索到 6 大压缩算法的工程全貌(2026)
编程
Headroom 深度拆解:当 AI Agent 学会「断舍离」——从上下文压缩层、CCR 可逆检索到 6 大压缩算法的工程全貌(2026)
2026-07-18 15:45:16 +0800 CST
view 160
Headroom 是 AI Agent 的上下文压缩层,在 Agent 与 LLM 之间插入本地优先、完全可逆的压缩中间件,实测节省 60-95% Token。本文从架构、4种集成模式、CCR 可逆检索到 6 大压缩算法与可运行代码实战全面拆解。
Headroom
AI Agent
上下文压缩
Token优化
LLM工程
MySQL 现代进化实战:从 8.0 EOL 到 8.4 LTS,再到 9.x 向量检索——一个后端工程师的升级与优化全指南(2026)
编程
MySQL 现代进化实战:从 8.0 EOL 到 8.4 LTS,再到 9.x 向量检索——一个后端工程师的升级与优化全指南(2026)
2026-07-19 01:43:38 +0800 CST
view 689
2026 年 MySQL 8.0 EOL 背景下,从 8.4 LTS 升级踩坑、查询优化器现代武器库,到 9.x 原生 VECTOR 向量检索的工程师实战全指南。
MySQL
8.4 LTS
VECTOR
查询优化器
向量检索
升级实战
SkyPilot 深度实战:从多云 AI 调度到成本优化的企业级完全指南
编程
SkyPilot 深度实战:从多云 AI 调度到成本优化的企业级完全指南
2026-05-24 00:00:53 +0800 CST
view 548
2026 年,SkyPilot 作为 AI 工作负载的通用编排层,彻底解决了多云 GPU 资源调度的碎片化问题。本文深入剖析其架构设计与生产级最佳实践。
SkyPilot
AI基础设施
多云调度
成本优化
GPU
综合
robots.txt 的写法及用法
2024-11-19 01:44:21 +0800 CST
view 1837
本文介绍了robots.txt文件的定义、语法及其在搜索引擎优化中的作用。robots.txt是一个协议,用于指示搜索引擎哪些内容可以被抓取,哪些内容应被禁止。文中提供了多种使用示例和注意事项,强调了合理使用该文件的重要性,以避免误区和提高网站的访问效率。
搜索引擎优化
网站管理
网络协议
robots
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
编程
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
2026-05-17 10:21:56 +0800 CST
view 630
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
CLEAR 深度实战:当浙大+腾讯+北大联手破解AI推理「算力浪费」难题——从理性放弃机制到生产级LLM推理优化完全指南(2026)
编程
CLEAR 深度实战:当浙大+腾讯+北大联手破解AI推理「算力浪费」难题——从理性放弃机制到生产级LLM推理优化完全指南(2026)
2026-06-12 14:20:52 +0800 CST
view 536
深度解析 ICML 2026 接收的 CLEAR 推理优化方法。浙江大学、腾讯、北京大学联合提出:对没有希望的问题理性放弃,把算力集中到能解决的问题上。包含完整 Python 实现、vLLM/SGLang 集成、生产级部署指南。
LLM
推理优化
ICML 2026
CLEAR
算力分配
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
52
53
54
55
56
...
63
下一页