程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
编程
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
2026-06-08 22:53:03 +0800 CST
view 430
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构,以及生产环境部署的最佳实践。
vLLM
PagedAttention
LLM推理
KV缓存
分布式推理
LLM 推理框架选型实战:vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
编程
LLM 推理框架选型实战:vLLM、TensorRT-LLM、TGI、DeepSpeed-MII 深度对比与生产部署指南
2026-07-03 13:49:04 +0800 CST
view 402
深度对比 vLLM 0.5、TensorRT-LLM 1.8、TGI 2.0、DeepSpeed-MII 0.9 四大推理框架,从核心技术原理、性能数据、成本账本到生产部署实战,帮你做出正确的框架选型决策。
LLM
vLLM
TensorRT-LLM
TGI
DeepSpeed
推理优化
大模型部署
GPU优化
Go 1.26 深度实战:Green Tea 垃圾回收器把 GC 开销砍掉 40%,再到泛型自我引用、new() 表达式操作数与 cgo 提速的完整工程指南(2026)
编程
Go 1.26 深度实战:Green Tea 垃圾回收器把 GC 开销砍掉 40%,再到泛型自我引用、new() 表达式操作数与 cgo 提速的完整工程指南(2026)
2026-07-09 05:15:05 +0800 CST
view 262
Go 1.26 深度实战:从 Green Tea 垃圾回收器的缓存局部性优化,到泛型自我引用、new() 表达式操作数、cgo 调用开销下降 30% 与 go fix 自动迁移,配可运行代码与性能实测的完整工程指南。
Go
Go 1.26
Green Tea GC
垃圾回收
泛型
性能优化
cgo
Go 1.26 深度实战:Green Tea GC 性能狂飙 40%、泛型自引用突破、go fix 智能化——从语法革命到生产级升级的完整指南
编程
Go 1.26 深度实战:Green Tea GC 性能狂飙 40%、泛型自引用突破、go fix 智能化——从语法革命到生产级升级的完整指南
2026-06-28 02:43:02 +0800 CST
view 353
Go 1.26 于 2026 年 2 月正式发布,Green Tea GC 默认启用带来 10%-40% 的性能提升,new 函数支持表达式彻底改变指针初始化方式,泛型自引用突破递归数据结构的限制,go fix 智能化重构助力代码现代化。本文将从架构原理、核心特性、性能基准到生产级部署,全方位深度解析 Go 1.26。
Go 1.26
Green Tea GC
泛型
go fix
性能优化
cgo
sqlh:Go 语言零样板 SQL 库,结构体标签生成 CRUD,50 行搞定
编程
sqlh:Go 语言零样板 SQL 库,结构体标签生成 CRUD,50 行搞定
2026-07-09 07:57:04 +0800 CST
view 219
Go语言零样板SQL库sqlh,结构体标签自动生成CRUD,泛型类型安全,自动事务,SQLite/MySQL/PostgreSQL支持,约200KB,115行→50行缩减57%。
Go
SQL
ORM
sqlx
GORM
CRUD
数据库
SQLite
泛型
开源
Go 1.26 深度实战:Green Tea GC、new(expr)语法、泛型递归约束与工程级性能优化全解析
编程
Go 1.26 深度实战:Green Tea GC、new(expr)语法、泛型递归约束与工程级性能优化全解析
2026-04-26 16:12:00 +0800 CST
view 624
Go 1.26深度实战:从Green Tea GC架构原理到new(expr)语法糖,从泛型递归约束到go fix现代化重构,配完整代码示例与性能基准测试
Go
Golang
GC
泛型
性能优化
Green Tea
Go 1.25 Green Tea GC 深度实战:从「三色标记」到「以页扫描」,一次把缓存局部性榨干的垃圾回收革命
编程
Go 1.25 Green Tea GC 深度实战:从「三色标记」到「以页扫描」,一次把缓存局部性榨干的垃圾回收革命
2026-07-27 02:15:09 +0800 CST
view 166
Go 1.25 实验性垃圾回收器 Green Tea 深度实战:以内存页(span)为单位扫描替代随机指针追逐,用空间局部性换缓存命中,GC 耗时降低 10%-40%。附源码原理、benchmark、runtime/metrics 观测及容器感知 GOMAXPROCS 落地清单。
Go
垃圾回收
GreenTea
GC
GOMAXPROCS
性能优化
云原生
Golang
2026年AI架构突破全景解析:从 Kimi Attention Residuals 到存算一体——告别参数内卷,走向效率革命
编程
2026年AI架构突破全景解析:从 Kimi Attention Residuals 到存算一体——告别参数内卷,走向效率革命
2026-05-30 09:40:11 +0800 CST
view 826
深度解析2026年AI架构五大突破:Attention Residuals、存算一体、多模态原生、自我学习、量子AI,从算法到硬件全方位革新
AI架构
Attention Residuals
存算一体
量子AI
多模态原生
告别传统工单系统:开源客服平台 Tentix 用向量知识库让 AI 真正懂业务
编程
告别传统工单系统:开源客服平台 Tentix 用向量知识库让 AI 真正懂业务
2026-04-17 10:00:51 +0800 CST
view 696
本文介绍开源客服系统 Tentix,它将历史工单、对话、文档统一沉淀到 PostgreSQL + pgvector 向量知识库中,支持 MCP 扩展,让 AI 客服越跑越懂业务,不再工单电子化。
开源
Tentix
客服系统
向量知识库
AI
pgvector
MCP
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
编程
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
2026-07-09 09:17:24 +0800 CST
view 448
深入剖析 2026 年大模型推理引擎核心技术:PagedAttention、Continuous Batching、Chunked Prefill、RadixAttention 前缀缓存、投机解码与 AWQ/GPTQ/FP8 量化,结合 vLLM 与 SGLang 部署实战,把 GPU 利用率榨到极限的生产级完全指南。
LLM推理引擎
vLLM
SGLang
推理优化
量化部署
投机解码
GPU利用率
KV Cache
PagedAttention
百度 Unlimited OCR 深度解析:端到端长文档 OCR 的新范式——从 R-SWA 机制到 3B 参数模型、从 KV Cache 压缩到生产级部署的完整技术指南(2026)
编程
百度 Unlimited OCR 深度解析:端到端长文档 OCR 的新范式——从 R-SWA 机制到 3B 参数模型、从 KV Cache 压缩到生产级部署的完整技术指南(2026)
2026-07-04 03:13:57 +0800 CST
view 393
2026年6月百度开源Unlimited OCR,5天GitHub Star破1万。深度解析R-SWA机制、3B参数模型架构、KV Cache压缩原理,含完整部署代码与生产级应用案例。
百度
Unlimited OCR
OCR
R-SWA
KV Cache
长文档识别
端到端OCR
多模态模型
百度 Unlimited OCR 深度实战:30亿参数仅激活5亿、R-SWA注意力革命——长文档OCR端到端SOTA完全指南(2026)
编程
百度 Unlimited OCR 深度实战:30亿参数仅激活5亿、R-SWA注意力革命——长文档OCR端到端SOTA完全指南(2026)
2026-06-28 06:43:54 +0800 CST
view 547
百度2026年6月开源Unlimited OCR:30亿参数仅激活5亿,R-SWA注意力把KV Cache压成常数,一次前向推理处理几十页文档,OmniDocBench v1.6得分93.92%刷新SOTA。
百度 Unlimited OCR
OCR
R-SWA
长文档
端到端
MoE
SGLang
TensorRT-LLM 1.0 深度实战:当 PyTorch 架构成为默认体验,NVIDIA 的 LLM 推理引擎正式走向成熟
编程
TensorRT-LLM 1.0 深度实战:当 PyTorch 架构成为默认体验,NVIDIA 的 LLM 推理引擎正式走向成熟
2026-07-22 10:46:37 +0800 CST
view 163
深度解析 TensorRT-LLM 1.0:PyTorch 架构正式稳定、LLM API 稳定化、多模态 VLM 原生支持、Qwen3 MoE 优化、LoRA 生产级管理、trtllm-serve 推理服务化,配完整部署实战代码。
TensorRT-LLM
LLM推理
GPU加速
PyTorch
NVIDIA
深度学习
模型部署
推理优化
CSP 3.0 与 WebAssembly:浏览器安全策略的范式革命
编程
CSP 3.0 与 WebAssembly:浏览器安全策略的范式革命
2026-07-27 06:14:24 +0800 CST
view 140
2026年深度解析CSP 3.0对WebAssembly的安全控制:wasm-unsafe-eval原理、Worker双重检查、生产配置最佳实践与性能影响,程序员视角的WASM安全指南。
WebAssembly
CSP 3.0
浏览器安全
CSP
WASM
W3C
前端安全
Content-Security-Policy
LLM 推理优化全景实战:从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命(2026)
编程
LLM 推理优化全景实战:从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命(2026)
2026-05-30 15:42:55 +0800 CST
view 563
深度解析 LLM 推理优化的核心技术:PagedAttention 内存管理革命、投机解码加速策略、INT4/FP8 量化技术、MoE 架构优化,从架构原理到代码实战,让大模型推理成本下降 70%。
LLM
推理优化
vLLM
PagedAttention
投机解码
量化
MoE
vLLM 深度拆解:当大模型推理学会「分页注意力」——PagedAttention、连续批处理与 V1 引擎如何重写 GPU 推理服务的心智模型
编程
vLLM 深度拆解:当大模型推理学会「分页注意力」——PagedAttention、连续批处理与 V1 引擎如何重写 GPU 推理服务的心智模型
2026-07-16 04:19:16 +0800 CST
view 223
从工程师视角深度拆解 vLLM:PagedAttention 分页注意力、连续批处理、V1 引擎架构、KV Cache 管理、量化与投机解码,配 OpenAI 兼容服务、引导解码与生产调优实战。
vLLM
PagedAttention
连续批处理
大模型推理
GPU推理服务
KV缓存
V1引擎
ego-lite 深度拆解:一个人类和 AI 并行操控的浏览器,如何重新定义 Agent 的网页自动化
编程
ego-lite 深度拆解:一个人类和 AI 并行操控的浏览器,如何重新定义 Agent 的网页自动化
2026-07-27 10:46:16 +0800 CST
view 184
深度拆解 GitHub Trending 项目 ego-lite:如何用一个 Chromium 分支解决 AI 浏览器自动化的登录态共享、人机并行与资源开销三大难题,附架构分析、代码实战与竞品对比。
AI编程
浏览器自动化
ego-lite
Chromium
Agent
Web自动化
CDP
Temporal 深度解析:分布式系统可靠执行的新范式,从工作流引擎到 AI Agent 时代的基础设施
编程
Temporal 深度解析:分布式系统可靠执行的新范式,从工作流引擎到 AI Agent 时代的基础设施
2026-05-15 15:46:16 +0800 CST
view 951
深入解析 Temporal 分布式工作流引擎的核心设计:Durable Execution、Workflow/Activity 架构、五大服务组件,以及 TypeScript/Go/Java 生态实战。特别探讨 Temporal 在 AI Agent 时代作为基础设施层的重要价值。
分布式系统
工作流
Temporal
Durable Execution
微服务
AI Agent
Go
TypeScript
Go 1.26 深度实战:绿茶GC、泛型自愈与栈分配革命——从语言内核到生产级性能调优的完整指南
编程
Go 1.26 深度实战:绿茶GC、泛型自愈与栈分配革命——从语言内核到生产级性能调优的完整指南
2026-05-22 04:49:01 +0800 CST
view 616
2026年2月,Go 1.26 正式发布。这场被社区称为"史上最强性能更新"的版本,带来了全新的"绿茶"(Green Tea)垃圾回收算法、泛型类型约束的自我引用突破、栈分配逃逸分析的智能化升级。本文将从底层原理到生产实践,带你完整掌握 Go 1.26 的所有重大变革。
Go 1.26
Green Tea GC
泛型
性能优化
栈分配
SIMD
Go语言
Temporal 深度解析:分布式持久化执行引擎如何终结微服务编排的地狱模式
编程
Temporal 深度解析:分布式持久化执行引擎如何终结微服务编排的地狱模式
2026-04-18 02:45:06 +0800 CST
view 931
深度解析Temporal持久化执行引擎的架构设计、事件溯源机制、Go SDK实战与生产调优,从微服务编排困境到分布式容错的全链路技术剖析
Temporal
分布式
微服务
Go
工作流引擎
Go 1.26 深度实战:Green Tea GC 与泛型增强——从逃逸分析到 SIMD 加速的生产级性能调优
编程
Go 1.26 深度实战:Green Tea GC 与泛型增强——从逃逸分析到 SIMD 加速的生产级性能调优
2026-05-22 04:49:25 +0800 CST
view 835
2026年2月,Go 1.26 正式发布。这场被社区称为"史上最强性能更新"的版本,带来了全新的"绿茶"(Green Tea)垃圾回收算法、泛型类型约束的自我引用突破、栈分配逃逸分析的智能化升级。本文将从底层原理到生产实践,带你完整掌握 Go 1.26 的所有重大变革。
Go 1.26
Green Tea GC
泛型
性能优化
栈分配
SIMD
Go语言
TEN Framework 深度解析:当实时多模态语音 AI 遇上真正的"即插即用"
编程
TEN Framework 深度解析:当实时多模态语音 AI 遇上真正的"即插即用"
2026-04-08 19:04:47 +0800 CST
view 700
TEN Framework 是一个开源的实时多模态对话 AI 框架,让开发者能够像搭积木一样快速构建低延迟、高质量的实时语音/视频 AI Agent。本文深度解析其核心架构、实战应用与性能优化策略。
TEN Framework
语音AI
实时多模态
WebRTC
AI Agent
Go 1.26 深度实战:当「精益求精」遇上「性能暴击」——从 Green Tea GC 到 new(expr) 语法糖的全方位完全指南(2026)
编程
Go 1.26 深度实战:当「精益求精」遇上「性能暴击」——从 Green Tea GC 到 new(expr) 语法糖的全方位完全指南(2026)
2026-06-15 19:20:33 +0800 CST
view 567
Go 1.26 全面解析:Green Tea GC 默认启用降低 10-40% CPU 开销,new(expr) 语法糖革新指针初始化,go fix 彻底重构,slog 正式转正,Crypto 库重构加速 29-81%,从原理到实战深度讲解。
Go语言
Golang
GC
性能优化
GreenTea
编程
Ollama 融资 6500 万美元背后:2026 年本地大模型运行时生态深度拆解——为什么「极简主义」赢了
编程
Ollama 融资 6500 万美元背后:2026 年本地大模型运行时生态深度拆解——为什么「极简主义」赢了
2026-07-16 11:45:03 +0800 CST
view 348
从 Ollama 6500 万美元融资事件切入,深度拆解 2026 年本地大模型运行时生态:Ollama、llama.cpp、LocalAI、LiteBox、vLLM 的架构设计、性能对比、API 设计、适用场景,配完整代码实战与生产部署踩坑指南。
Ollama
本地大模型
llama.cpp
LocalAI
LiteBox
本地LLM
推理引擎
量化
GGUF
MCP
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
110
111
112
113
下一页