程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
自建大模型统一网关:多模型路由、故障转移与成本治理的工程实战
编程
自建大模型统一网关:多模型路由、故障转移与成本治理的工程实战
2026-07-23 02:41:45 +0800 CST
view 37
从协议碎片化病根讲起,拆解生产级 LLM 网关必须解决的六类工程问题,并用手写 Go 网关+Python 语义缓存跑通路由、熔断、重试与成本记账。
LLM Gateway
大模型网关
多模型路由
故障转移
成本治理
LiteLLM
OmniRoute
从零构建技术基础设施:build-your-own-x 49万星背后的编程教育革命
编程
从零构建技术基础设施:build-your-own-x 49万星背后的编程教育革命
2026-05-22 14:14:54 +0800 CST
view 521
深入剖析 GitHub 49万星项目 build-your-own-x,讲解从零实现 Redis、Docker、Git 等核心技术的方法论与实践
build-your-own-x
编程教育
系统思维
从零实现
OmniRoute深度实践:构建高可用AI智能路由网关——整合多AI提供商的最佳实践
编程
OmniRoute深度实践:构建高可用AI智能路由网关——整合多AI提供商的最佳实践
2026-07-05 03:13:30 +0800 CST
view 244
深入剖析OmniRoute AI智能路由网关的架构设计与实战,涵盖统一抽象层、路由决策引擎、故障切换、负载均衡、成本优化等核心特性,附完整TypeScript代码实现。
AI
路由网关
OmniRoute
AI Provider
负载均衡
故障切换
Kubernetes 1.36 深度拆解:当调度器学会「按拓扑思考」——DRA 全面收网、PodGroup 组调度与 User Namespace GA 的工程全貌
编程
Kubernetes 1.36 深度拆解:当调度器学会「按拓扑思考」——DRA 全面收网、PodGroup 组调度与 User Namespace GA 的工程全貌
2026-07-17 03:42:13 +0800 CST
view 148
深度拆解 Kubernetes 1.36(Haru):DRA 动态资源分配全面收网、PodGroup 组调度、拓扑感知调度 TAS、User Namespaces 与 Mutating Admission Policies GA,附完整 YAML 实战与生产性能优化。
Kubernetes 1.36
DRA
动态资源分配
PodGroup
User Namespaces
云原生
造轮子才是正道:build-your-own-x 与编程教育的底层逻辑
编程
造轮子才是正道:build-your-own-x 与编程教育的底层逻辑
2026-05-22 14:15:31 +0800 CST
view 460
深入剖析 GitHub 49万星项目 build-your-own-x,讲解从零实现 Redis、Docker、Git 等核心技术的方法论
build-your-own-x
编程教育
系统思维
从零实现
Kubernetes 1.36 深度拆解:DRA 走向成熟、PodGroup 组调度与 30+ GA 特性的工程全貌
编程
Kubernetes 1.36 深度拆解:DRA 走向成熟、PodGroup 组调度与 30+ GA 特性的工程全貌
2026-07-17 11:47:34 +0800 CST
view 129
深度拆解 Kubernetes 1.36:DRA 动态资源分配走向 GA、PodGroup 原生组调度、30+ 特性进入 GA、Ingress NGINX 退役,配完整 YAML 配置示例与生产升级避坑指南。
Kubernetes
K8s
云原生
DRA
调度器
PodGroup
存储
安全
CSI
Prometheus
Docker 27「Orion」深度解析:原生 AI 调度时代来临——GPU 拓扑感知、NUMA 绑定与容器化大模型部署新范式
编程
Docker 27「Orion」深度解析:原生 AI 调度时代来临——GPU 拓扑感知、NUMA 绑定与容器化大模型部署新范式
2026-05-10 00:41:20 +0800 CST
view 464
Docker 27 Orion深度解析:GPU拓扑感知调度与PCIe/NVLink自动绑定、NUMA内存带宽限制、dockerd-scheduler AI调度代理、docker ai run零配置LLM部署、Dockerfile.ai模型封装语法、OOM Killer五步防御、cgroups v2集成与生产环境避坑指南
Docker
容器化
GPU调度
NUMA
AI推理
LLM
docker-compose
cgroups
Dockerfile
NVIDIA
AI 编程助手 Token 烧钱太快?9Router + RTK 双剑合璧:从架构设计到生产级实践,节省 90% 成本完全指南
编程
AI 编程助手 Token 烧钱太快?9Router + RTK 双剑合璧:从架构设计到生产级实践,节省 90% 成本完全指南
2026-05-23 00:19:03 +0800 CST
view 540
深入剖析 9Router 智能模型路由和 RTK Token 压缩的技术原理、架构设计与生产级实践,帮助开发者节省高达 90% 的 AI 编程成本。
AI编程
Token优化
9Router
RTK
成本控制
ClickHouse v26.2 深度拆解:当 OLAP 数据库进入全栈内嵌时代——从 ClickStack 可观测 UI 到向量搜索分布式化(2026)
编程
ClickHouse v26.2 深度拆解:当 OLAP 数据库进入全栈内嵌时代——从 ClickStack 可观测 UI 到向量搜索分布式化(2026)
2026-07-17 15:15:41 +0800 CST
view 127
深度拆解 ClickHouse v26.2:ClickStack 可观测 UI、TOTP 原生认证、BigLake 集成、向量搜索分布式化、QBit 数据类型 GA、Insert 去重行为变更,配完整代码实战与生产升级指南。
ClickHouse
OLAP
向量数据库
数据库
大数据
实时分析
ClickStack
HNSW
Iceberg
Free Claude Code:让Claude Code接入任意模型,打破Anthropic绑定
编程
Free Claude Code:让Claude Code接入任意模型,打破Anthropic绑定
2026-04-29 12:20:38 +0800 CST
view 1202
Free Claude Code是让Claude Code接入任意模型的代理层项目,打破Anthropic绑定,支持NVIDIA NIM/OpenRouter/DeepSeek/Ollama/LM Studio等后端,适合想降成本或本地部署AI编程环境的人。
Claude Code
AI编程
开源工具
OpenRouter
DeepSeek
Ollama
LM Studio
AI Coding
Anthropic
DuckDB 1.5 深度拆解:当「分析界的 SQLite」装上 VARIANT 与 Vortex 引擎——从进程内向量化执行到 Lakehouse 实战的工程全貌(2026)
编程
DuckDB 1.5 深度拆解:当「分析界的 SQLite」装上 VARIANT 与 Vortex 引擎——从进程内向量化执行到 Lakehouse 实战的工程全貌(2026)
2026-07-18 01:14:31 +0800 CST
view 150
深度拆解 DuckDB 1.5:VARIANT 类型、Vortex 存储引擎、Iceberg DML、内置 GEOMETRY、非阻塞 Checkpoint,配完整 Python/Go/SQL 代码实战与性能优化指南。
DuckDB
VARIANT
Vortex
OLAP
嵌入式数据库
Iceberg
向量化执行
Lakehouse
Codex剪辑Skills:一句话剪视频,Agent自动化口播成片全流程
编程
Codex剪辑Skills:一句话剪视频,Agent自动化口播成片全流程
2026-06-22 08:00:14 +0800 CST
view 578
chengfeng-videocut-skills是2000+Star开源剪辑Skill包,接入Codex/Claude Code后五步完成口播成片:剪口播→分镜→修改→预览→合成MP4。基于rough.js手绘动画+HyperFrames HTML渲染,免费开源。
视频剪辑
Codex
Agent
开源
口播视频
自动化
HyperFrames
HTML动画
rough.js
DuckDB 1.5.0 深度实战:当嵌入式分析数据库开始吞噬数据湖——从向量化内核、VARIANT 类型到 Iceberg DML 的生产级完全指南
编程
DuckDB 1.5.0 深度实战:当嵌入式分析数据库开始吞噬数据湖——从向量化内核、VARIANT 类型到 Iceberg DML 的生产级完全指南
2026-07-11 14:45:55 +0800 CST
view 162
深度拆解 DuckDB 1.5.0(Variegata):重写 CLI、原生 VARIANT 半结构化类型、内置 GEOMETRY、非阻塞检查点、Iceberg 完整 DML 与 Quack 远程协议,配可运行 SQL 与 Lakehouse 实战。
DuckDB
VARIANT
Iceberg
DuckLake
Quack
向量化
数据分析
Lakehouse
OmniRoute 深度拆解:一个端点接住 268 家模型提供商,AI 网关的路由决策链、多层回退与上下文压缩实战
编程
OmniRoute 深度拆解:一个端点接住 268 家模型提供商,AI 网关的路由决策链、多层回退与上下文压缩实战
2026-07-24 05:14:12 +0800 CST
view 21
深度拆解 GitHub Trending 冲榜的 OmniRoute:一个 OpenAI 兼容端点接住 268+ 提供商。从协议归一、责任链路由决策、多层回退与熔断、上下文压缩到自托管部署与可观测性,配可运行代码,带你彻底看懂并手撸一个精简版 AI 网关。
OmniRoute
AI网关
LLM路由
多模型
上下文压缩
责任链模式
熔断降级
自托管
OpenAI兼容
FastAPI
Langfuse深度解析:ClickHouse加持的开源LLM可观测性平台——从Trace追踪到Prompt管理的AI工程化完整实战指南
编程
Langfuse深度解析:ClickHouse加持的开源LLM可观测性平台——从Trace追踪到Prompt管理的AI工程化完整实战指南
2026-07-06 00:14:59 +0800 CST
view 174
深度解析Langfuse开源AI工程平台:ClickHouse高性能Trace存储、三大核心模块(Observability/Prompt Management/Evaluation)、Python/JS SDK完整代码实战、Docker Compose自部署指南、与LangSmith/Helicone竞品对比、ClickHouse收购战略分析
Langfuse
LLM
可观测性
ClickHouse
OpenTelemetry
AI工程
Trace追踪
Prompt管理
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
编程
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
2026-07-24 06:14:45 +0800 CST
view 15
深度对比vLLM与SGLang两大LLM推理引擎:PagedAttention vs RadixAttention,Continuous Batching原理,吞吐与延迟实战选型指南
vLLM
SGLang
LLM推理
PagedAttention
RadixAttention
Continuous Batching
GPU优化
推理引擎
DuckLake 1.0 深度解析:SQL-Only Lakehouse 如何用数据库元存储终结数据湖的小文件噩梦
编程
DuckLake 1.0 深度解析:SQL-Only Lakehouse 如何用数据库元存储终结数据湖的小文件噩梦
2026-04-20 08:47:08 +0800 CST
view 723
DuckLake 1.0 发布:用数据库管理元数据的 Lakehouse 格式,Data Inlining 终结小文件问题,支持 Multiplayer DuckDB 多玩家协作模式
DuckDB
DuckLake
数据湖
Lakehouse
Iceberg
Delta Lake
OLAP
OmniRoute深度解析:聚合237+AI提供商的免费智能路由网关——从RTK+Caveman压缩到四级自动降级的完整实战指南
编程
OmniRoute深度解析:聚合237+AI提供商的免费智能路由网关——从RTK+Caveman压缩到四级自动降级的完整实战指南
2026-07-06 03:13:06 +0800 CST
view 439
深度解析OmniRoute开源AI网关:聚合237+提供商(50+免费)、RTK+Caveman双层Token压缩(节省15-95%)、四级自动降级、17种路由策略、三层弹性保障。含Python/Go/TypeScript完整代码实战、与LiteLLM/OpenRouter竞品对比、生产部署指南。
OmniRoute
AI网关
Token压缩
智能路由
LLM
开源
TypeScript
成本优化
vLLM 0.5 深度拆解:当 PagedAttention 重塑 LLM 推理内存——从 OS 分页思想到 MoE 分布式推理的工程全貌(2026)
编程
vLLM 0.5 深度拆解:当 PagedAttention 重塑 LLM 推理内存——从 OS 分页思想到 MoE 分布式推理的工程全貌(2026)
2026-07-18 13:17:37 +0800 CST
view 113
深度拆解 vLLM 0.5 的 PagedAttention 核心原理、连续批处理架构、MoE 推理优化、分布式部署策略,以及 2026 年四大推理框架生产级性能横评。
vLLM
PagedAttention
LLM推理
ContinuousBatching
MoE
FusedMoE
量化
分布式推理
OmniRoute深度拆解:500+模型统一调度、AI编程工具全家桶接入——开源AI网关的工程革命
编程
OmniRoute深度拆解:500+模型统一调度、AI编程工具全家桶接入——开源AI网关的工程革命
2026-07-24 11:12:42 +0800 CST
view 15
深度拆解 GitHub 23k+ Star 的 OmniRoute 开源 AI 网关:290+ Provider、500+ 模型统一调度,RTK+Caveman Token 压缩节省 15-95%,Quota 感知自动回退,Claude Code/Cursor/Codex 全家桶接入实战
OmniRoute
AI网关
大模型
Claude Code
Cursor
Token压缩
智能路由
开源
vLLM 深度实战:从 PagedAttention 到 Speculative Decoding——2026年大模型推理引擎内核架构完全指南
编程
vLLM 深度实战:从 PagedAttention 到 Speculative Decoding——2026年大模型推理引擎内核架构完全指南
2026-05-23 18:44:14 +0800 CST
view 549
2026年深度长文,从PagedAttention分页思想、Continuous Batching调度算法、Speculative Decoding并行验证机制到CUDA Kernel底层实现,全面拆解vLLM推理引擎内核架构,附生产级部署实战与框架横向对比。
vLLM
PagedAttention
Continuous Batching
Speculative Decoding
GPU推理
大模型部署
深度学习
CUDA
Headroom 深度实战:当 Netflix 工程师用「上下文压缩」掀翻 AI 成本底牌——从 CCR 可逆机制到跨 Agent 记忆的生产级完全指南(2026)
编程
Headroom 深度实战:当 Netflix 工程师用「上下文压缩」掀翻 AI 成本底牌——从 CCR 可逆机制到跨 Agent 记忆的生产级完全指南(2026)
2026-06-11 15:20:19 +0800 CST
view 572
Netflix工程师开源的AI上下文压缩工具Headroom,能在保持答案质量的前提下将Token消耗压缩60-95%,累计节省70万美元成本。本文深度剖析其架构设计、CCR可逆机制、跨Agent记忆共享与生产级集成实践。
AI编程
Token压缩
上下文管理
LLM优化
OpenSource
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
编程
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
2026-05-17 10:21:56 +0800 CST
view 552
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
编程
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
2026-05-17 10:22:13 +0800 CST
view 532
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
15
16
17
18
19
...
52
下一页