程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
编程
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
2026-06-02 09:36:52 +0800 CST
view 723
从vLLM到TensorRT-LLM,一次讲透vLLM、SGLang、TensorRT-LLM、llama.cpp四大LLM推理框架的架构哲学、核心原理、生产级部署实战与选型决策树。
LLM
vLLM
TensorRT-LLM
llama.cpp
SGLang
推理优化
GPU
BitNet 深度拆解:当大模型被压到 1.58 bit——从三元权重、BitLinear 到 bitnet.cpp 的端侧推理革命(2026)
编程
BitNet 深度拆解:当大模型被压到 1.58 bit——从三元权重、BitLinear 到 bitnet.cpp 的端侧推理革命(2026)
2026-07-17 14:24:55 +0800 CST
view 275
深度拆解微软 BitNet:1.58-bit 三值量化、Absmean/Absmax、BitLinear、bitnet.cpp 子矩阵内核,附 PyTorch 手写实现与 CPU 端侧推理性能实测。
BitNet
1-bit LLM
大模型推理
模型量化
端侧AI
bitnet.cpp
llama.cpp 深度实战:当端侧 LLM 成为生产级事实标准——从 GGUF 量化到跨平台部署的完全指南(2026)
编程
llama.cpp 深度实战:当端侧 LLM 成为生产级事实标准——从 GGUF 量化到跨平台部署的完全指南(2026)
2026-06-11 00:19:05 +0800 CST
view 512
全面解析 llama.cpp 推理引擎,从 GGUF 格式、量化原理、架构设计到跨平台部署,提供生产级代码实战和性能优化指南。
llama.cpp
GGUF
量化
端侧推理
大语言模型
Tabby 深度实战:用一台消费级 GPU 搭好团队私有的"Copilot"
编程
Tabby 深度实战:用一台消费级 GPU 搭好团队私有的"Copilot"
2026-07-24 01:46:45 +0800 CST
view 143
深度实战 TabbyML/tabby 自托管 AI 编程助手:三层架构与 llama-server 独立化重构、消费级 GPU 模型选型、Repository Context 语法感知 RAG 索引、FIM Prompt 拼装原理、systemd/nginx 生产部署、压测与 Prometheus 监控全套方案。
Tabby
AI编程
代码补全
自托管
llama.cpp
RAG
Rust
GPU
开源
Copilot
Redis之父的「孤注一掷」:ds4.c如何让284B参数模型在128GB MacBook上跑起来
编程
Redis之父的「孤注一掷」:ds4.c如何让284B参数模型在128GB MacBook上跑起来
2026-07-11 16:17:33 +0800 CST
view 228
Redis之父 Salvatore Sanfilippo 2026年5月发布的新项目 ds4.c,专为 DeepSeek V4 Flash + Apple Silicon Metal 打造本地推理引擎,8000行代码实现2.5倍性能提升。本文深度解析其架构设计、Graph Executor、KV Cache页式管理与Metal Shader实现。
推理引擎
Apple Silicon
DeepSeek
Metal
Redis
ds4.c
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
2026-08-04 22:46:33 +0800 CST
view 27
深度拆解Redis创始人antirez打造的DwarfStar 4本地推理引擎:专用MoE推理栈、非对称2-Bit量化、磁盘KV缓存、SSD流式加载、多机流水线并行,在128GB MacBook上跑出26 tok/s的284B模型推理
DwarfStar
Redis
antirez
DeepSeek
MoE
本地推理
LLM
推理引擎
2-Bit量化
KV缓存
Apple Metal
CUDA
开源
当 Apple Silicon 遇上视觉大模型:MLX-VLM 如何把「本地多模态推理」变成现实
编程
当 Apple Silicon 遇上视觉大模型:MLX-VLM 如何把「本地多模态推理」变成现实
2026-04-11 10:24:48 +0800 CST
view 892
深度解析 Apple Silicon 上的视觉语言模型推理引擎 MLX-VLM,涵盖架构设计、模型支持、性能优化与实战部署。
Apple Silicon
MLX
视觉语言模型
VLM
Mac本地AI
多模态推理
Obscura 深度实战:从 Rust 无头引擎到 AI Agent 浏览器底座——Headless Chrome 的终结者还是补充者?
编程
Obscura 深度实战:从 Rust 无头引擎到 AI Agent 浏览器底座——Headless Chrome 的终结者还是补充者?
2026-05-23 12:15:52 +0800 CST
view 606
Obscura 是用 Rust 编写的高性能无头浏览器引擎,专为 AI Agent 和网页抓取设计。本文深度解析其架构设计、性能优势、Stealth 反检测机制及生产级实践。
Rust
无头浏览器
AI Agent
Web 抓取
V8
CDP
Playwright
Puppeteer
性能优化
架构设计
Codex 深度拆解:当 OpenAI 决定「把 Codex 塞进 Claude Code 的身体」——30.4K Star 的跨厂商 Agent 协作插件如何用 App Server 协议和双 Harness 架构重新定义 AI 编程的终极形态
编程
Codex 深度拆解:当 OpenAI 决定「把 Codex 塞进 Claude Code 的身体」——30.4K Star 的跨厂商 Agent 协作插件如何用 App Server 协议和双 Harness 架构重新定义 AI 编程的终极形态
2026-08-05 02:14:30 +0800 CST
view 27
深度拆解OpenAI官方发布的Claude Code插件codex-plugin-cc:30.4K Star的跨厂商Agent协作方案,双Harness架构、App Server协议、Thread/Turn/Item三层会话模型、三档沙箱安全机制,附完整实战代码与最佳实践
Codex
Claude Code
OpenAI
AI编程
Agent
插件
App Server
代码审查
跨厂商协作
Codex 深度拆解:OpenAI 官方插件如何让 Claude Code 和 Codex 双剑合璧——30.4K Star 的跨厂商 Agent 协作架构全解析
编程
Codex 深度拆解:OpenAI 官方插件如何让 Claude Code 和 Codex 双剑合璧——30.4K Star 的跨厂商 Agent 协作架构全解析
2026-08-05 02:20:14 +0800 CST
view 22
深度拆解OpenAI官方发布的Claude Code插件codex-plugin-cc:30.4K Star的跨厂商Agent协作方案,双Harness架构、App Server协议、Thread/Turn/Item三层会话模型、三档沙箱安全机制,附完整实战代码与最佳实践
Codex
Claude Code
OpenAI
AI编程
Agent
插件
App Server
代码审查
跨厂商协作
llmfit 深度拆解:一条命令算清你的机器能跑哪个大模型,Rust 硬件探测与适配度评分引擎全解析
编程
llmfit 深度拆解:一条命令算清你的机器能跑哪个大模型,Rust 硬件探测与适配度评分引擎全解析
2026-07-24 07:14:55 +0800 CST
view 161
深度拆解 GitHub Trending 破万星的 llmfit:Rust 硬件探测、权重与 KV cache 显存估算公式、内存带宽速度模型、MoE offload 运行模式,附 100 行 Python 复现 mini-llmfit 与工程集成实战。
llmfit
Rust
本地大模型
Ollama
llama.cpp
量化
KV cache
MoE
硬件选型
开源
oMLX 深度实战:当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南(2026)
编程
oMLX 深度实战:当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南(2026)
2026-06-22 17:24:05 +0800 CST
view 537
oMLX 是专为 Apple Silicon 优化的 LLM 推理服务器,通过连续批处理、分层 KV Cache、MLX 后端加速和 macOS 菜单栏管理,让本地 AI 推理从可用走向实用。
LLM
Apple Silicon
MLX
本地推理
MCP
Apple Container 深度实战:当 Swift 遇见 VM-per-Container——从架构革命到 macOS 原生容器化的生产级完全指南(2026)
编程
Apple Container 深度实战:当 Swift 遇见 VM-per-Container——从架构革命到 macOS 原生容器化的生产级完全指南(2026)
2026-06-17 06:57:55 +0800 CST
view 768
Apple Container v1.0.0 深度实战:VM-per-Container 架构革命、Containerization Swift 包、独立 IP 网络、OCI 兼容、性能优化与生产级部署指南
Apple Container
Swift
容器化
macOS
Virtualization
OCI
VM
TypeORM 1.0 深度实战:当元老级 ORM 终于走出 0.x 漫漫长夜——从装饰器实体、QueryBuilder 内核到 valuesFromSelect / RETURNING 与 mysql2 迁移的生产级完全指南
编程
TypeORM 1.0 深度实战:当元老级 ORM 终于走出 0.x 漫漫长夜——从装饰器实体、QueryBuilder 内核到 valuesFromSelect / RETURNING 与 mysql2 迁移的生产级完全指南
2026-07-12 05:11:54 +0800 CST
view 190
深度拆解 TypeORM 1.0:装饰器实体、QueryBuilder 内核、mysql2/better-sqlite3 驱动换血、valuesFromSelect 与 RETURNING 新特性,配可运行代码与生产级迁移与性能优化实战。
TypeORM 1.0
DataMapper
QueryBuilder
ORM 选型
mysql2
RETURNING
Claude Code 集成 iOS 模拟器:AI 编程的「最后一公里」被谁打通了?
编程
Claude Code 集成 iOS 模拟器:AI 编程的「最后一公里」被谁打通了?
2026-07-24 09:43:46 +0800 CST
view 173
深度拆解 Anthropic Claude Code 集成 iOS 模拟器的技术原理:无障碍树读取、系统级触控事件注入、专用面板隔离设计,以及这一集成对 AI 编程工具链的深远影响。
Claude Code
iOS开发
SwiftUI
Xcode
AI编程
模拟器自动化
Apple
移动端开发
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
编程
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
2026-05-23 17:18:22 +0800 CST
view 2093
2026年深度拆解 llama.cpp 的核心架构:GGUF 格式原理、20+量化方法对比、KV Cache 优化、多硬件后端性能实测,与 Ollama/vLLM 完整横评。
llama.cpp
GGUF
量化
CUDA
Metal
LLM推理
C++
本地部署
性能优化
GGML
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
编程
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
2026-07-06 05:48:17 +0800 CST
view 200
深度解析Ollama本地LLM推理引擎架构与实战
Ollama
本地推理
LLM
Go
llama.cpp
GGUF
GPU
Modelfile
Apple container 深度拆解:一容器一虚拟机,Swift 如何在 macOS 上重写 Linux 容器运行时
编程
Apple container 深度拆解:一容器一虚拟机,Swift 如何在 macOS 上重写 Linux 容器运行时
2026-07-30 02:43:43 +0800 CST
view 127
深度拆解 Apple 开源的 container 与 Containerization 框架:一容器一轻量虚拟机架构、Swift 编写的 vminitd init 进程、macOS 侧 EXT4 镜像物化、每容器独立 IP 网络模型,附 Go 服务实战、性能对比与冷静的边界分析。
Apple container
Containerization
Swift
轻量虚拟机
macOS
容器技术
vminitd
Virtualization
开源
DwarfStar 4 深度拆解:当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存,一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存,一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态
2026-08-05 12:17:17 +0800 CST
view 21
深度拆解Redis创始人antirez打造的DeepSeek V4 Flash专用本地推理引擎DwarfStar 4:One Model One Engine哲学、非对称量化策略、磁盘KV缓存、双协议兼容层,附完整架构分析与性能基准
DwarfStar
DeepSeek
本地推理
MoE
Metal
Apple Silicon
antirez
Redis
AI推理
开源
BitNet 1.58-bit:微软如何用三个值就让大模型在 CPU 上飞奔
编程
BitNet 1.58-bit:微软如何用三个值就让大模型在 CPU 上飞奔
2026-05-11 13:55:11 +0800 CST
view 653
微软开源BitNet 1.58-bit大模型推理框架,2B参数模型仅需0.4GB内存、29ms/token推理速度。核心创新:训练时量化、-1/0/+1三值权重、位运算加速,精度损失<5%却比INT4表现更好。纯CPU运行,71%能耗降低。
BitNet,1.58bit,微软,大模型量化,1bit LLM,CPU推理,bitnet.cpp,训练时量化,位运算加速,模型压缩
Apple Container 深度实战:当 Swift 遇上轻量虚拟化——从 macOS 原生容器到 Production 部署的完全指南(2026)
编程
Apple Container 深度实战:当 Swift 遇上轻量虚拟化——从 macOS 原生容器到 Production 部署的完全指南(2026)
2026-06-12 14:46:44 +0800 CST
view 951
深入解析苹果官方开源的 macOS 容器工具 apple/container,从架构设计、Virtualization.framework 技术栈、轻量VM模型等维度完整讲解,附实战部署示例。
Swift
Container
macOS
虚拟化
Apple Silicon
OCI
Docker
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
编程
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
2026-07-24 17:17:27 +0800 CST
view 194
深度解析 omlx:专为 Mac 优化的本地 LLM 推理服务器,通过连续批处理、分层 KV Cache、SSD 缓存和菜单栏管理,实现便捷与控制兼得的推理体验。涵盖技术架构、性能调优、RAG 实战和最佳实践。
LLM
Mac
Apple Silicon
推理优化
本地部署
omlx
Uni-app 也能像 Vue 一样用 App.vue?这款插件做到了!
编程
Uni-app 也能像 Vue 一样用 App.vue?这款插件做到了!
2025-07-25 19:33:08 +0800 CST
view 1450
本文介绍了如何使用`@uni-ku/root`插件为uni-app提供根组件支持,使其能够像Vue一样使用App.vue。通过该插件,开发者可以轻松集成全局组件,如Toast、Loading等,解决了uni-app中全局状态共享和组件挂载的痛点。文章还提供了详细的安装和配置步骤,以及示例代码,帮助开发者更好地使用uni-app。
uni-app
Vue
前端开发
插件
组件
编程
vue中使用rsa加密和数字签名和后端如php进行加密交互
2024-11-19 02:17:27 +0800 CST
view 4285
本文介绍了如何在后端使用RAS加密,包括安装jsencrypt和crypto-js库,公私钥的生成与使用,以及如何进行数据的加密、解密和签名验证。提供了代码示例,展示了如何在uniapp项目中实现这些功能,并强调了保护公私钥的重要性,以防止被他人轻易获取。
加密
安全
后端开发
uniapp
数据保护
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
4
5
...
33
下一页