程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
OpenVINO 2026.3 深度拆解:从 MoE 磁盘卸载到 FP8 量化,Intel 的端侧 AI 推理全家桶又升级了
编程
OpenVINO 2026.3 深度拆解:从 MoE 磁盘卸载到 FP8 量化,Intel 的端侧 AI 推理全家桶又升级了
2026-08-10 11:46:27 +0800 CST
view 49
深度拆解 Intel OpenVINO 2026.3 四大核心更新:MoE 磁盘卸载让 300B 模型跑在 16GB 机器上、Linux 懒加载消除权重复制、FP8 量化新能力、三条 GenAI 新流水线,配完整代码实战与性能数据对比
OpenVINO
Intel
AI推理
MoE
FP8量化
端侧部署
NNCF
LLM
CPU推理
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
编程
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
2026-06-27 12:44:29 +0800 CST
view 373
2026年LLM推理引擎深度实战:从PagedAttention、连续批处理、量化技术到生产级K8s部署,万字长文覆盖vLLM、SGLang、TensorRT-LLM、TGI四大框架架构原理与实测对比
LLM推理
vLLM
PagedAttention
SGLang
推理优化
TensorRT-LLM
生产部署
KV Cache
量化
Ollama 深度实战:当本地大模型成为生产级基础设施——从模型量化到高并发推理、从 REST API 到 Kubernetes 部署的完全指南(2026)
编程
Ollama 深度实战:当本地大模型成为生产级基础设施——从模型量化到高并发推理、从 REST API 到 Kubernetes 部署的完全指南(2026)
2026-06-20 01:25:22 +0800 CST
view 705
Ollama本地大模型生产级部署完全指南:从GGUF格式原理、INT4/INT8量化实战、REST API集成、多语言SDK(Python/Go/TypeScript)、GPU显存管理、Kubernetes+Helm生产部署、性能调优到RAG知识库构建,全流程深度实战。
Ollama
本地大模型
LLM部署
模型量化
GGUF
llama.cpp
REST API
Kubernetes
GPU
RAG
GameLink:Go+React游戏陪玩管理平台,智能订单分发+WebSocket实时通讯+RBAC权限
编程
GameLink:Go+React游戏陪玩管理平台,智能订单分发+WebSocket实时通讯+RBAC权限
2026-07-26 11:45:41 +0800 CST
view 210
GameLink(游戏陪玩管理平台):Go后端+React前端架构、智能订单分发(抢单池+客服指派)、WebSocket实时通讯(聊天室+订单群聊)、JWT+RBAC权限控制、AES-256-CBC加密、完整支付+退款+收益结算、平台抽成15-25%、三端架构(用户端/陪玩师端/管理后台)、Docker一键部署、PostgreSQL+Redis存储、Go 1.25.5+Gin+GORM技术栈。
GameLink
游戏陪玩
Go后端
React前端
订单分发
WebSocket
实时通讯
RBAC
支付系统
Docker部署
Gemma 4 12B 深度实战:当无编码器统一多模态架构走进本地
编程
Gemma 4 12B 深度实战:当无编码器统一多模态架构走进本地
2026-06-14 17:49:21 +0800 CST
view 569
深入解析 Google Gemma 4 12B 的无编码器统一多模态架构,从技术原理到生产部署的完整指南
Gemma4
Google
多模态
本地部署
AI
LLM
Encoder-Free
Gemma 4 12B 工程实践:Encoder-Free 统一多模态架构从原理到本地部署完全指南(2026)
编程
Gemma 4 12B 工程实践:Encoder-Free 统一多模态架构从原理到本地部署完全指南(2026)
2026-06-14 17:49:38 +0800 CST
view 664
深入解析 Google Gemma 4 12B 的无编码器统一多模态架构,从技术原理到生产部署的完整指南
Gemma4
Google
多模态
本地部署
AI
LLM
Encoder-Free
前端容器化实战:使用Docker高效部署前端项目的完整指南
编程
前端容器化实战:使用Docker高效部署前端项目的完整指南
2025-09-11 17:13:31 +0800 CST
view 1592
本文详细介绍了使用Docker容器化部署前端项目的完整实践指南。内容包括Docker环境安装、优化Dockerfile编写、多阶段构建、Nginx配置优化、DockerCompose管理、环境变量配置以及CI/CD自动化部署。提供了具体的代码示例和最佳实践,帮助开发者实现高效、一致的前端项目部署,提升部署效率和系统可靠性。
前端开发
容器技术
DevOps
部署优化
Web开发
LLM 推理框架选型实战:vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
编程
LLM 推理框架选型实战:vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
2026-07-03 13:49:04 +0800 CST
view 431
深度对比 vLLM 0.5、TensorRT-LLM 1.8、TGI 2.0、DeepSpeed-MII 0.9 四大推理框架,从核心技术原理、性能数据、成本账本到生产部署实战,帮你做出正确的框架选型决策。
LLM
vLLM
TensorRT-LLM
TGI
DeepSpeed
推理优化
大模型部署
GPU优化
GitHub Copilot 首次接入开源模型 Kimi K2.7 Code:从 MoE 架构到私有化部署的完整技术解析
编程
GitHub Copilot 首次接入开源模型 Kimi K2.7 Code:从 MoE 架构到私有化部署的完整技术解析
2026-07-03 14:13:50 +0800 CST
view 952
2026年7月3日,GitHub Copilot首次接入开源模型Kimi K2.7 Code。万字深度解析MoE架构、MLA注意力机制、30% Token优化技术原理、Copilot集成方案、私有化部署实战与成本分析。
Kimi K2.7 Code
GitHub Copilot
MoE
开源模型
AI编程
MoonshotAI
vLLM
模型部署
Kimi K2 系列深度实战:月之暗面开源编码大模型架构解析与生产级部署完全指南
编程
Kimi K2 系列深度实战:月之暗面开源编码大模型架构解析与生产级部署完全指南
2026-06-28 03:15:43 +0800 CST
view 616
深度解析月之暗面Kimi K2系列(K2.5/K2.6/K2.7 Code)的MoE架构、多模态能力、Token优化策略,附Ollama本地部署、OpenRouter API集成、OpenCode实战及Agent工作流完整代码。
Kimi K2
月之暗面
MoE架构
编码大模型
AI编程
Token优化
本地部署
OpenRouter
多模态
Agent工作流
chinese-poetry-api:40万首古诗词 API,Go高性能 REST+GraphQL双接口 + Docker一键部署
编程
chinese-poetry-api:40万首古诗词 API,Go高性能 REST+GraphQL双接口 + Docker一键部署
2026-07-22 07:39:47 +0800 CST
view 193
chinese-poetry-api(40万首古典诗词)Go高性能双接口:RESTful+GraphQL支持分页/筛选/自定义字段、简繁300ns切换、多维度精准检索(朝代/作者/体裁)、Docker一行命令部署(amd64/arm64)、内置IP限流+k6压测脚本(3000并发),私有化部署无第三方限制。
chinese-poetry-api
古诗词API
Go
GraphQL
RESTful
简繁转换
Docker
诗词数据库
GPL
私有化部署
后端
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
编程
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
2026-07-09 09:17:24 +0800 CST
view 477
深入剖析 2026 年大模型推理引擎核心技术:PagedAttention、Continuous Batching、Chunked Prefill、RadixAttention 前缀缓存、投机解码与 AWQ/GPTQ/FP8 量化,结合 vLLM 与 SGLang 部署实战,把 GPU 利用率榨到极限的生产级完全指南。
LLM推理引擎
vLLM
SGLang
推理优化
量化部署
投机解码
GPU利用率
KV Cache
PagedAttention
TensorRT-LLM 1.0 深度实战:当 PyTorch 架构成为默认体验,NVIDIA 的 LLM 推理引擎正式走向成熟
编程
TensorRT-LLM 1.0 深度实战:当 PyTorch 架构成为默认体验,NVIDIA 的 LLM 推理引擎正式走向成熟
2026-07-22 10:46:37 +0800 CST
view 170
深度解析 TensorRT-LLM 1.0:PyTorch 架构正式稳定、LLM API 稳定化、多模态 VLM 原生支持、Qwen3 MoE 优化、LoRA 生产级管理、trtllm-serve 推理服务化,配完整部署实战代码。
TensorRT-LLM
LLM推理
GPU加速
PyTorch
NVIDIA
深度学习
模型部署
推理优化
Hermes Agent 深度实战:自进化 AI Agent 的架构设计与生产级部署完全指南(2026)
编程
Hermes Agent 深度实战:自进化 AI Agent 的架构设计与生产级部署完全指南(2026)
2026-05-30 16:41:27 +0800 CST
view 597
深入解析 Nous Research 开源的 Hermes Agent:六层核心架构、GEPA 自进化闭环、三层持久记忆系统、200+ 模型支持,以及从 $5 VPS 到 Modal Serverless 的完整生产级部署实战指南。
AI Agent
Hermes Agent
Nous Research
自进化
GEPA
Skill系统
生产部署
ds4 深度解析:Redis 作者的最后一战?—— DwarfStar 4 本地推理引擎的技术革命
编程
ds4 深度解析:Redis 作者的最后一战?—— DwarfStar 4 本地推理引擎的技术革命
2026-05-15 17:47:40 +0800 CST
view 953
深入解析 antirez(Redis 作者)新开源项目 ds4:DwarfStar 4 本地推理引擎,专门为 DeepSeek V4 Flash 打造,支持 Metal/CUDA 后端,2-bit 量化可在 96GB 内存 MacBook 上运行 284B 参数模型。
AI推理
本地部署
DeepSeek
Redis
Apple Silicon
CUDA
Metal
MoE
量化
Qwen3.8-Max 深度拆解:2.4万亿参数的MoE巨兽如何重新定义大模型天花板——从稀疏混合专家到1M上下文的全栈架构哲学
编程
Qwen3.8-Max 深度拆解:2.4万亿参数的MoE巨兽如何重新定义大模型天花板——从稀疏混合专家到1M上下文的全栈架构哲学
2026-08-03 17:14:27 +0800 CST
view 377
深度拆解Qwen3.8-Max 2.4万亿参数MoE大模型架构:稀疏混合专家路由机制、混合注意力1M上下文、GQA KV Cache优化、量化部署实战、vLLM推理优化,附完整代码示例与性能基准分析
Qwen3.8
MoE
大模型
阿里巴巴
通义千问
混合专家
1M上下文
稀疏注意力
量化部署
vLLM
开源
Ollama 本地大模型部署实战:从零到生产级应用的完全指南(2026)
编程
Ollama 本地大模型部署实战:从零到生产级应用的完全指南(2026)
2026-06-10 01:20:57 +0800 CST
view 679
2026年Ollama本地大模型部署完全指南:从架构原理、GGUF量化、ModelFile自定义、多语言集成(Python/JS/Go)、RAG实战到Docker/K8s生产部署,8500字深度长文。
Ollama
本地部署
大模型
LLM
生产级
GGUF
量化
OpenClaw 深度实战:当本地 AI 助手遇上全平台自动化——从架构原理到生产级部署的完全指南(2026)
编程
OpenClaw 深度实战:当本地 AI 助手遇上全平台自动化——从架构原理到生产级部署的完全指南(2026)
2026-06-10 01:48:23 +0800 CST
view 730
OpenClaw(原名 Clawdbot/Moltbot)是2026年爆火的开源本地AI助手项目。本文从架构原理、核心概念、实战部署、Skills开发、多平台集成、性能优化等维度,全方位深入剖析OpenClaw如何将AI从聊天机器人进化为真正能做事的数字员工。
OpenClaw
AI助手
本地部署
自动化
Agent
n8n 深度实战:从工作流自动化引擎到 AI Agent 编排平台——源码架构、生产部署与性能优化的完整指南(2026)
编程
n8n 深度实战:从工作流自动化引擎到 AI Agent 编排平台——源码架构、生产部署与性能优化的完整指南(2026)
2026-06-28 19:13:10 +0800 CST
view 456
n8n 深度实战:从源码架构、执行引擎、AI Agent 集成、生产级 Docker 部署、性能优化到安全架构,12000 字完整指南(2026)
n8n
工作流自动化
AI Agent
LangChain
RAG
低代码
TypeScript
Node.js
自托管
生产部署
DeerFlow 2.0 深度实战:字节跳动开源 SuperAgent 全栈框架——从 LangGraph 架构、沙箱隔离、子代理编排到生产级部署的完整指南(2026)
编程
DeerFlow 2.0 深度实战:字节跳动开源 SuperAgent 全栈框架——从 LangGraph 架构、沙箱隔离、子代理编排到生产级部署的完整指南(2026)
2026-06-29 00:44:13 +0800 CST
view 558
DeerFlow 2.0 是字节跳动开源的 SuperAgent 全栈框架,基于 LangGraph 重构,支持子代理编排、Docker 沙箱隔离、长期记忆、Skills 扩展和 6+ IM 渠道接入,本文从架构原理到生产部署完整解析。
DeerFlow
SuperAgent
AI Agent
LangGraph
字节跳动
开源
沙箱隔离
子代理
生产部署
从零构建企业级本地化RAG系统:Ollama与RAGFlow深度实战
编程
从零构建企业级本地化RAG系统:Ollama与RAGFlow深度实战
2026-06-29 01:46:19 +0800 CST
view 575
深入探讨如何基于Ollama和RAGFlow构建完全本地化的RAG系统,涵盖架构设计、部署实战、代码实现和性能优化。
RAG
Ollama
RAGFlow
本地部署
LLM
如何在生产环境中部署FastAPI应用程序
编程
如何在生产环境中部署FastAPI应用程序
2024-11-19 10:13:11 +0800 CST
view 2864
本文介绍了如何在生产环境中部署FastAPI应用程序,包括设置生产服务器、管理环境变量、使用反向代理和SSL/TLS加密等步骤。通过实际演示,读者可以学习如何使用Uvicorn和Gunicorn运行应用程序,配置Nginx作为反向代理,设置SSL/TLS证书,以及实现日志记录、中间件、CORS、速率限制和后台任务处理等功能,确保应用程序的安全性和性能。
Web开发
API
部署
安全性
性能优化
Headroom 深度解析:给 AI Agent 装上「上下文压缩层」——从 6 种压缩算法到 CCR 可逆架构、从 KV Cache 优化到生产级部署的完整技术指南(2026)
编程
Headroom 深度解析:给 AI Agent 装上「上下文压缩层」——从 6 种压缩算法到 CCR 可逆架构、从 KV Cache 优化到生产级部署的完整技术指南(2026)
2026-07-04 17:45:34 +0800 CST
view 209
Headroom 是 2026 年 7 月 GitHub 周趋势冠军(13k+ Star),通过 6 种压缩算法 + CCR 可逆架构,为 AI Agent 节省 60-95% Token,精度保留率 97%。本文深度解析架构原理、代码实战和生产级部署。
Headroom
AI Agent
Token压缩
上下文管理
开源项目
Python
Claude Code
KV Cache
AST感知
生产部署
vLLM 0.5 深度解析:PagedAttention 架构原理与生产级 LLM 推理优化实战
编程
vLLM 0.5 深度解析:PagedAttention 架构原理与生产级 LLM 推理优化实战
2026-07-04 18:15:46 +0800 CST
view 400
深度解析 vLLM 0.5 的 PagedAttention 架构原理,涵盖 KV Cache 分页管理、MoE 优化、分布式推理、量化技术,并通过代码实战和性能对比,帮助开发者掌握生产级 LLM 推理最佳实践。
vLLM
PagedAttention
LLM推理
CUDA
KV Cache
深度学习
AI基础设施
Python
生产部署
性能优化
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
4
5
6
7
下一页