程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
编程
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
2026-06-30 11:16:18 +0800 CST
view 321
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
编程
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
2026-06-30 11:17:15 +0800 CST
view 366
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
万字深度解析 MoneyPrinterTurbo:当 LLM 遇见视频自动化——从 5 步 Pipeline 到 100+ 模型接入的生产级实战(2026)
编程
万字深度解析 MoneyPrinterTurbo:当 LLM 遇见视频自动化——从 5 步 Pipeline 到 100+ 模型接入的生产级实战(2026)
2026-07-01 10:45:38 +0800 CST
view 321
深度解析MoneyPrinterTurbo开源项目:AI全自动短视频生成框架,涵盖5步Pipeline、100+LLM模型接入、9种TTS方案、FFmpeg视频合成与性能优化实战(2026)
MoneyPrinterTurbo
AI视频
LLM
视频自动化
短视频
开源项目
Python
FFmpeg
TTS
LiteLLM
llama.cpp 架构深度拆解:从 GGML 到 GGUF、量化内核到跨平台推理栈,一文吃透本地 LLM 推理工程化
编程
llama.cpp 架构深度拆解:从 GGML 到 GGUF、量化内核到跨平台推理栈,一文吃透本地 LLM 推理工程化
2026-08-01 08:18:35 +0800 CST
view 153
深度拆解 llama.cpp 全栈架构:从 GGML 到 GGUF 格式演进、K-Quant 量化内核原理、ggml 张量计算图层、libllama 推理逻辑层、10+ 硬件后端调度,以及生产调优实战与踩坑清单。
llama.cpp
GGUF
GGML
量化
本地LLM
CPU推理
GPU加速
跨平台
K-Quant
llama.cpp 深度拆解:一个纯 C++ 引擎如何让 180K Star 成为端侧 LLM 的事实标准——从 GGUF 格式到多后端架构的全栈解析
编程
llama.cpp 深度拆解:一个纯 C++ 引擎如何让 180K Star 成为端侧 LLM 的事实标准——从 GGUF 格式到多后端架构的全栈解析
2026-08-03 10:45:17 +0800 CST
view 134
深度拆解llama.cpp四大核心架构:GGUF模型格式设计、GGML计算引擎、8种多后端抽象层、K-Quant/I-Quant量化技术体系,附完整代码示例与性能基准测试
llama.cpp
GGUF
GGML
量化
端侧推理
LLM
C++
推理引擎
多后端
K-Quant
Google AI Edge Gallery 深度拆解:当手机成为大模型的「离线战场」——从 LiteRT 推理引擎到端侧 GenAI 的工程全貌(2026)
编程
Google AI Edge Gallery 深度拆解:当手机成为大模型的「离线战场」——从 LiteRT 推理引擎到端侧 GenAI 的工程全貌(2026)
2026-07-18 12:44:38 +0800 CST
view 227
深度拆解 Google AI Edge Gallery 开源项目:LiteRT 推理引擎架构、INT4 量化原理、多模态支持、模型转换实战、企业级落地场景,配完整 Kotlin 代码示例与性能优化指南。
Google AI Edge Gallery
LiteRT
端侧AI
大模型
Android
量化
多模态
离线推理
移动端部署
GenAI
DiffusionGemma 深度实战:当文本扩散重新定义本地AI推理——从'打字机'到'印刷机'的4倍速架构革命
编程
DiffusionGemma 深度实战:当文本扩散重新定义本地AI推理——从'打字机'到'印刷机'的4倍速架构革命
2026-06-12 17:21:39 +0800 CST
view 352
2026年6月Google发布DiffusionGemma,首个生产级文本扩散大模型,本地推理速度提升4倍。本文深入剖析其从自回归到并行生成的架构革命,附完整代码实战。
DiffusionGemma
文本扩散
本地AI
Gemma
大模型推理
扩散模型
Python
Ollama
Google AI Edge Gallery 深度实战:让 Mac/Android 离线运行 Gemma 3——从原理到生产级本地 AI 部署完全指南(2026)
编程
Google AI Edge Gallery 深度实战:让 Mac/Android 离线运行 Gemma 3——从原理到生产级本地 AI 部署完全指南(2026)
2026-06-04 21:14:37 +0800 CST
view 504
深入剖析 Google AI Edge Gallery 的技术架构、Gemma 模型家族、端侧部署全流程,并通过完整代码示例,带你从零构建一个生产级本地 AI 应用。
Google AI Edge Gallery
本地AI
Gemma模型
端侧推理
Mac AI
Android AI
SigNoz 深度拆解:当 OpenTelemetry 决定「干掉 Datadog」——一个 22K Star 的可观测性平台如何用 ClickHouse 统一日志、指标、追踪与 LLM 监控的全栈工程哲学
编程
SigNoz 深度拆解:当 OpenTelemetry 决定「干掉 Datadog」——一个 22K Star 的可观测性平台如何用 ClickHouse 统一日志、指标、追踪与 LLM 监控的全栈工程哲学
2026-08-04 08:43:17 +0800 CST
view 64
深度拆解SigNoz 22K Star开源可观测性平台:ClickHouse统一存储日志/指标/追踪、OTel Collector多协议兼容、LLM可观测性、MCP集成让AI Agent理解生产环境、完整部署代码与性能基准对比
SigNoz
OpenTelemetry
可观测性
ClickHouse
APM
日志管理
分布式追踪
LLM监控
Datadog替代
开源
SigNoz 深度拆解:OpenTelemetry 原生可观测性平台如何用 ClickHouse 统一日志指标追踪与 LLM 监控——从 22K Star 到 Datadog 开源替代的全栈工程哲学
编程
SigNoz 深度拆解:OpenTelemetry 原生可观测性平台如何用 ClickHouse 统一日志指标追踪与 LLM 监控——从 22K Star 到 Datadog 开源替代的全栈工程哲学
2026-08-04 08:44:11 +0800 CST
view 65
深度拆解SigNoz 22K Star开源可观测性平台:ClickHouse统一存储日志/指标/追踪、OTel Collector多协议兼容、LLM可观测性、MCP集成让AI Agent理解生产环境、完整部署代码与性能基准对比
SigNoz
OpenTelemetry
可观测性
ClickHouse
APM
日志管理
分布式追踪
LLM监控
Datadog替代
开源
Free Claude Code:让Claude Code接入任意模型,打破Anthropic绑定
编程
Free Claude Code:让Claude Code接入任意模型,打破Anthropic绑定
2026-04-29 12:20:38 +0800 CST
view 1343
Free Claude Code是让Claude Code接入任意模型的代理层项目,打破Anthropic绑定,支持NVIDIA NIM/OpenRouter/DeepSeek/Ollama/LM Studio等后端,适合想降成本或本地部署AI编程环境的人。
Claude Code
AI编程
开源工具
OpenRouter
DeepSeek
Ollama
LM Studio
AI Coding
Anthropic
Oxc 深度拆解:当 Rust 统一 JavaScript 工具链——从原子化 linter 到 VoidZero 全栈生态的工程全貌(2026)
编程
Oxc 深度拆解:当 Rust 统一 JavaScript 工具链——从原子化 linter 到 VoidZero 全栈生态的工程全貌(2026)
2026-07-18 00:44:46 +0800 CST
view 226
深度拆解 Oxc 和 VoidZero:Rust 编写的原子化 JavaScript 工具链。涵盖 oxlint、oxfmt、oxc_transformer、oxc_minifier、Rolldown、Vite+ 全栈生态,配真实性能测试与渐进迁移指南。
Oxc
VoidZero
Rust
JavaScript工具链
前端工程化
Rolldown
Vite
oxlint
oxfmt
SGLang 深度拆解:当 LLM 推理引擎学会「结构化生成」与前缀复用——从 RadixAttention、约束解码到生产级高吞吐部署的工程全貌(2026)
编程
SGLang 深度拆解:当 LLM 推理引擎学会「结构化生成」与前缀复用——从 RadixAttention、约束解码到生产级高吞吐部署的工程全貌(2026)
2026-07-18 02:45:17 +0800 CST
view 186
深度拆解 SGLang:RadixAttention 跨请求前缀复用、约束解码让 JSON 快 10 倍、DP Attention 为 DeepSeek MLA 而生,配 DSL/分布式/量化代码实战与生产调优清单。
SGLang
LLM推理
RadixAttention
约束解码
大模型服务化
高吞吐
OXC深度解析:Rust重写JavaScript工具链的终极形态——从解析器到Linter,VoidZero如何用六大模块统一前端开发全流程
编程
OXC深度解析:Rust重写JavaScript工具链的终极形态——从解析器到Linter,VoidZero如何用六大模块统一前端开发全流程
2026-07-05 20:13:41 +0800 CST
view 396
深度解析OXC(JavaScript Oxidation Compiler)六大核心模块:Parser、Linter、Transformer、Resolver、Formatter、Minifier。覆盖VoidZero计划、vite-plus架构、Rolldown构建引擎、React Compiler Rust移植,含完整迁移实战与性能基准对比。
OXC
Oxlint
VoidZero
Rust
JavaScript
前端工具链
Vite
Rolldown
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
2026-08-04 22:46:33 +0800 CST
view 59
深度拆解Redis创始人antirez打造的DwarfStar 4本地推理引擎:专用MoE推理栈、非对称2-Bit量化、磁盘KV缓存、SSD流式加载、多机流水线并行,在128GB MacBook上跑出26 tok/s的284B模型推理
DwarfStar
Redis
antirez
DeepSeek
MoE
本地推理
LLM
推理引擎
2-Bit量化
KV缓存
Apple Metal
CUDA
开源
Langfuse深度解析:ClickHouse加持的开源LLM可观测性平台——从Trace追踪到Prompt管理的AI工程化完整实战指南
编程
Langfuse深度解析:ClickHouse加持的开源LLM可观测性平台——从Trace追踪到Prompt管理的AI工程化完整实战指南
2026-07-06 00:14:59 +0800 CST
view 293
深度解析Langfuse开源AI工程平台:ClickHouse高性能Trace存储、三大核心模块(Observability/Prompt Management/Evaluation)、Python/JS SDK完整代码实战、Docker Compose自部署指南、与LangSmith/Helicone竞品对比、ClickHouse收购战略分析
Langfuse
LLM
可观测性
ClickHouse
OpenTelemetry
AI工程
Trace追踪
Prompt管理
Vite 6 深度解析:Rolldown 引擎替换 + Environment API,前端构建工具的终极进化
编程
Vite 6 深度解析:Rolldown 引擎替换 + Environment API,前端构建工具的终极进化
2026-05-11 07:55:02 +0800 CST
view 743
Vite6深度解析:Rolldown引擎替代Rollup让构建速度提升7-30倍,Environment API标准化client/server/edge多环境构建,详析迁移指南和实战性能数据
Vite6,Rolldown,EnvironmentAPI,前端构建,Rust打包器
Stanford CS336 深度实战:从零实现大语言模型——数据清洗、Transformer 架构、FlashAttention 系统优化到 RL 对齐的完全指南(2026)
编程
Stanford CS336 深度实战:从零实现大语言模型——数据清洗、Transformer 架构、FlashAttention 系统优化到 RL 对齐的完全指南(2026)
2026-06-02 20:14:38 +0800 CST
view 650
Stanford CS336 课程深度解读:从零实现大语言模型,覆盖 Tokenizer、Transformer、FlashAttention-2、FSDP 分布式训练、Scaling Law、Common Crawl 数据清洗去重、SFT 与 GRPO 对齐,配完整代码示例。
LLM
Transformer
Stanford CS336
FlashAttention
PyTorch
AI工程
分布式训练
强化学习
Wasmtime v46 深度解析:WebAssembly 生产级运行时的 2026 架构革命
编程
Wasmtime v46 深度解析:WebAssembly 生产级运行时的 2026 架构革命
2026-06-30 11:48:19 +0800 CST
view 469
深度解析 Wasmtime v46:Cranelift JIT 编译器、WASI 0.2 系统接口、Component Model 组件化架构,以及 AI 推理边缘部署实战
WebAssembly
Wasmtime
WASI
Bytecode Alliance
Cranelift
Component Model
Rust
边缘计算
Serverless
AI推理
Wasmtime v46 深度解析:WebAssembly 生产级运行时的 2026 架构革命——Cranelift、WASI 0.2 与 Component Model 全栈指南
编程
Wasmtime v46 深度解析:WebAssembly 生产级运行时的 2026 架构革命——Cranelift、WASI 0.2 与 Component Model 全栈指南
2026-06-30 11:48:41 +0800 CST
view 322
深度解析 Wasmtime v46:Cranelift JIT 编译器、WASI 0.2 系统接口、Component Model 组件化架构,以及 AI 推理边缘部署实战
WebAssembly
Wasmtime
WASI
Bytecode Alliance
Cranelift
Component Model
Rust
边缘计算
Serverless
AI推理
Python 工具链的 Rust 化革命:从 uv、Ruff 到 LiteLLM——当 Rust 吃掉 Python 的工具生态
编程
Python 工具链的 Rust 化革命:从 uv、Ruff 到 LiteLLM——当 Rust 吃掉 Python 的工具生态
2026-06-30 14:43:40 +0800 CST
view 287
深度解析Python工具链的Rust化革命:从uv的包管理、Ruff的静态分析到LiteLLM的AI网关迁移,万字长文剖析Rust如何以10-100倍的性能优势重塑Python开发生态
Rust
Python
uv
Ruff
LiteLLM
Polars
性能优化
包管理
Pydantic
Python 工具链 Rust 化深度解析:从 uv、Ruff 到 LiteLLM——当系统级语言重塑 Python 开发体验
编程
Python 工具链 Rust 化深度解析:从 uv、Ruff 到 LiteLLM——当系统级语言重塑 Python 开发体验
2026-06-30 14:44:22 +0800 CST
view 229
深度解析Python工具链的Rust化革命:从uv的包管理、Ruff的静态分析到LiteLLM的AI网关迁移,万字长文剖析Rust如何以10-100倍的性能优势重塑Python开发生态
Rust
Python
uv
Ruff
LiteLLM
Polars
性能优化
包管理
Pydantic
Rust 正在重塑 Python 的工具链:深入解析 uv、Ruff 与 LiteLLM 的架构革命与 100 倍性能提升
编程
Rust 正在重塑 Python 的工具链:深入解析 uv、Ruff 与 LiteLLM 的架构革命与 100 倍性能提升
2026-06-30 14:45:17 +0800 CST
view 373
深度解析Python工具链的Rust化革命:从uv的包管理、Ruff的静态分析到LiteLLM的AI网关迁移,万字长文剖析Rust如何以10-100倍的性能优势重塑Python开发生态
Rust
Python
uv
Ruff
LiteLLM
Polars
性能优化
包管理
Pydantic
OpenObserve 深度解剖:20k Stars 开源可观测性平台——140倍降本、Rust向量化引擎、LLM可观测性与PB级架构真相
编程
OpenObserve 深度解剖:20k Stars 开源可观测性平台——140倍降本、Rust向量化引擎、LLM可观测性与PB级架构真相
2026-07-25 06:14:13 +0800 CST
view 215
深度拆解 GitHub 20k Stars 开源可观测性平台 OpenObserve:从 Rust 向量化引擎、Parquet 列式存储、140 倍降本原理,到 LLM 可观测性与 PB 级架构实战。
OpenObserve
可观测性
Rust
Parquet
云原生
OpenTelemetry
LLM
性能优化
监控
开源
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
50
51
52
53
54
...
82
下一页