程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
Tabby 深度实战:用一台消费级 GPU 搭好团队私有的"Copilot"
编程
Tabby 深度实战:用一台消费级 GPU 搭好团队私有的"Copilot"
2026-07-24 01:46:45 +0800 CST
view 143
深度实战 TabbyML/tabby 自托管 AI 编程助手:三层架构与 llama-server 独立化重构、消费级 GPU 模型选型、Repository Context 语法感知 RAG 索引、FIM Prompt 拼装原理、systemd/nginx 生产部署、压测与 Prometheus 监控全套方案。
Tabby
AI编程
代码补全
自托管
llama.cpp
RAG
Rust
GPU
开源
Copilot
Redis之父的「孤注一掷」:ds4.c如何让284B参数模型在128GB MacBook上跑起来
编程
Redis之父的「孤注一掷」:ds4.c如何让284B参数模型在128GB MacBook上跑起来
2026-07-11 16:17:33 +0800 CST
view 227
Redis之父 Salvatore Sanfilippo 2026年5月发布的新项目 ds4.c,专为 DeepSeek V4 Flash + Apple Silicon Metal 打造本地推理引擎,8000行代码实现2.5倍性能提升。本文深度解析其架构设计、Graph Executor、KV Cache页式管理与Metal Shader实现。
推理引擎
Apple Silicon
DeepSeek
Metal
Redis
ds4.c
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
2026-08-04 22:46:33 +0800 CST
view 25
深度拆解Redis创始人antirez打造的DwarfStar 4本地推理引擎:专用MoE推理栈、非对称2-Bit量化、磁盘KV缓存、SSD流式加载、多机流水线并行,在128GB MacBook上跑出26 tok/s的284B模型推理
DwarfStar
Redis
antirez
DeepSeek
MoE
本地推理
LLM
推理引擎
2-Bit量化
KV缓存
Apple Metal
CUDA
开源
当 Apple Silicon 遇上视觉大模型:MLX-VLM 如何把「本地多模态推理」变成现实
编程
当 Apple Silicon 遇上视觉大模型:MLX-VLM 如何把「本地多模态推理」变成现实
2026-04-11 10:24:48 +0800 CST
view 891
深度解析 Apple Silicon 上的视觉语言模型推理引擎 MLX-VLM,涵盖架构设计、模型支持、性能优化与实战部署。
Apple Silicon
MLX
视觉语言模型
VLM
Mac本地AI
多模态推理
Obscura 深度实战:从 Rust 无头引擎到 AI Agent 浏览器底座——Headless Chrome 的终结者还是补充者?
编程
Obscura 深度实战:从 Rust 无头引擎到 AI Agent 浏览器底座——Headless Chrome 的终结者还是补充者?
2026-05-23 12:15:52 +0800 CST
view 606
Obscura 是用 Rust 编写的高性能无头浏览器引擎,专为 AI Agent 和网页抓取设计。本文深度解析其架构设计、性能优势、Stealth 反检测机制及生产级实践。
Rust
无头浏览器
AI Agent
Web 抓取
V8
CDP
Playwright
Puppeteer
性能优化
架构设计
Codex 深度拆解:当 OpenAI 决定「把 Codex 塞进 Claude Code 的身体」——30.4K Star 的跨厂商 Agent 协作插件如何用 App Server 协议和双 Harness 架构重新定义 AI 编程的终极形态
编程
Codex 深度拆解:当 OpenAI 决定「把 Codex 塞进 Claude Code 的身体」——30.4K Star 的跨厂商 Agent 协作插件如何用 App Server 协议和双 Harness 架构重新定义 AI 编程的终极形态
2026-08-05 02:14:30 +0800 CST
view 24
深度拆解OpenAI官方发布的Claude Code插件codex-plugin-cc:30.4K Star的跨厂商Agent协作方案,双Harness架构、App Server协议、Thread/Turn/Item三层会话模型、三档沙箱安全机制,附完整实战代码与最佳实践
Codex
Claude Code
OpenAI
AI编程
Agent
插件
App Server
代码审查
跨厂商协作
Codex 深度拆解:OpenAI 官方插件如何让 Claude Code 和 Codex 双剑合璧——30.4K Star 的跨厂商 Agent 协作架构全解析
编程
Codex 深度拆解:OpenAI 官方插件如何让 Claude Code 和 Codex 双剑合璧——30.4K Star 的跨厂商 Agent 协作架构全解析
2026-08-05 02:20:14 +0800 CST
view 20
深度拆解OpenAI官方发布的Claude Code插件codex-plugin-cc:30.4K Star的跨厂商Agent协作方案,双Harness架构、App Server协议、Thread/Turn/Item三层会话模型、三档沙箱安全机制,附完整实战代码与最佳实践
Codex
Claude Code
OpenAI
AI编程
Agent
插件
App Server
代码审查
跨厂商协作
Lightpanda 深度实战:当 AI Agent 有了自己的浏览器——从 Zig 零构建引擎到 CDP/MCP 双协议生产级部署完全指南
编程
Lightpanda 深度实战:当 AI Agent 有了自己的浏览器——从 Zig 零构建引擎到 CDP/MCP 双协议生产级部署完全指南
2026-06-11 10:49:09 +0800 CST
view 548
Lightpanda是用Zig从零构建的无头浏览器,专为AI和自动化设计。100并行页面比Chrome快9倍、内存省16倍,支持CDP和MCP双协议
Lightpanda
Zig
Headless Browser
AI Agent
MCP
CDP
Puppeteer
Web Automation
llmfit 深度拆解:一条命令算清你的机器能跑哪个大模型,Rust 硬件探测与适配度评分引擎全解析
编程
llmfit 深度拆解:一条命令算清你的机器能跑哪个大模型,Rust 硬件探测与适配度评分引擎全解析
2026-07-24 07:14:55 +0800 CST
view 160
深度拆解 GitHub Trending 破万星的 llmfit:Rust 硬件探测、权重与 KV cache 显存估算公式、内存带宽速度模型、MoE offload 运行模式,附 100 行 Python 复现 mini-llmfit 与工程集成实战。
llmfit
Rust
本地大模型
Ollama
llama.cpp
量化
KV cache
MoE
硬件选型
开源
oMLX 深度实战:当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南(2026)
编程
oMLX 深度实战:当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南(2026)
2026-06-22 17:24:05 +0800 CST
view 537
oMLX 是专为 Apple Silicon 优化的 LLM 推理服务器,通过连续批处理、分层 KV Cache、MLX 后端加速和 macOS 菜单栏管理,让本地 AI 推理从可用走向实用。
LLM
Apple Silicon
MLX
本地推理
MCP
Apple Container 深度实战:当 Swift 遇见 VM-per-Container——从架构革命到 macOS 原生容器化的生产级完全指南(2026)
编程
Apple Container 深度实战:当 Swift 遇见 VM-per-Container——从架构革命到 macOS 原生容器化的生产级完全指南(2026)
2026-06-17 06:57:55 +0800 CST
view 768
Apple Container v1.0.0 深度实战:VM-per-Container 架构革命、Containerization Swift 包、独立 IP 网络、OCI 兼容、性能优化与生产级部署指南
Apple Container
Swift
容器化
macOS
Virtualization
OCI
VM
TypeORM 1.0 深度实战:当元老级 ORM 终于走出 0.x 漫漫长夜——从装饰器实体、QueryBuilder 内核到 valuesFromSelect / RETURNING 与 mysql2 迁移的生产级完全指南
编程
TypeORM 1.0 深度实战:当元老级 ORM 终于走出 0.x 漫漫长夜——从装饰器实体、QueryBuilder 内核到 valuesFromSelect / RETURNING 与 mysql2 迁移的生产级完全指南
2026-07-12 05:11:54 +0800 CST
view 190
深度拆解 TypeORM 1.0:装饰器实体、QueryBuilder 内核、mysql2/better-sqlite3 驱动换血、valuesFromSelect 与 RETURNING 新特性,配可运行代码与生产级迁移与性能优化实战。
TypeORM 1.0
DataMapper
QueryBuilder
ORM 选型
mysql2
RETURNING
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
编程
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
2026-05-23 17:18:22 +0800 CST
view 2093
2026年深度拆解 llama.cpp 的核心架构:GGUF 格式原理、20+量化方法对比、KV Cache 优化、多硬件后端性能实测,与 Ollama/vLLM 完整横评。
llama.cpp
GGUF
量化
CUDA
Metal
LLM推理
C++
本地部署
性能优化
GGML
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
编程
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
2026-07-06 05:48:17 +0800 CST
view 200
深度解析Ollama本地LLM推理引擎架构与实战
Ollama
本地推理
LLM
Go
llama.cpp
GGUF
GPU
Modelfile
MCP 2026-07-28 深度拆解:当 AI 工具协议决定「干掉全部会话状态」——从有状态握手到无状态自包含,一个被 10 万+ Agent 采用的协议如何用 9 项破坏性变更重新定义工具集成的终极形态
编程
MCP 2026-07-28 深度拆解:当 AI 工具协议决定「干掉全部会话状态」——从有状态握手到无状态自包含,一个被 10 万+ Agent 采用的协议如何用 9 项破坏性变更重新定义工具集成的终极形态
2026-08-05 08:13:42 +0800 CST
view 23
深度拆解MCP 2026-07-28规范:9项破坏性变更,从有状态握手到无状态自包含,MRTR替代双向流,MCP Apps和Tasks扩展框架,OAuth企业级适配,附完整迁移代码与性能基准
MCP
Model Context Protocol
AI Agent
无状态
MRTR
MCP Apps
Tasks
OAuth
工具集成
协议
Apple container 深度拆解:一容器一虚拟机,Swift 如何在 macOS 上重写 Linux 容器运行时
编程
Apple container 深度拆解:一容器一虚拟机,Swift 如何在 macOS 上重写 Linux 容器运行时
2026-07-30 02:43:43 +0800 CST
view 125
深度拆解 Apple 开源的 container 与 Containerization 框架:一容器一轻量虚拟机架构、Swift 编写的 vminitd init 进程、macOS 侧 EXT4 镜像物化、每容器独立 IP 网络模型,附 Go 服务实战、性能对比与冷静的边界分析。
Apple container
Containerization
Swift
轻量虚拟机
macOS
容器技术
vminitd
Virtualization
开源
DwarfStar 4 深度拆解:当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存,一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存,一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态
2026-08-05 12:17:17 +0800 CST
view 20
深度拆解Redis创始人antirez打造的DeepSeek V4 Flash专用本地推理引擎DwarfStar 4:One Model One Engine哲学、非对称量化策略、磁盘KV缓存、双协议兼容层,附完整架构分析与性能基准
DwarfStar
DeepSeek
本地推理
MoE
Metal
Apple Silicon
antirez
Redis
AI推理
开源
BitNet 1.58-bit:微软如何用三个值就让大模型在 CPU 上飞奔
编程
BitNet 1.58-bit:微软如何用三个值就让大模型在 CPU 上飞奔
2026-05-11 13:55:11 +0800 CST
view 653
微软开源BitNet 1.58-bit大模型推理框架,2B参数模型仅需0.4GB内存、29ms/token推理速度。核心创新:训练时量化、-1/0/+1三值权重、位运算加速,精度损失<5%却比INT4表现更好。纯CPU运行,71%能耗降低。
BitNet,1.58bit,微软,大模型量化,1bit LLM,CPU推理,bitnet.cpp,训练时量化,位运算加速,模型压缩
Apple Container 深度实战:当 Swift 遇上轻量虚拟化——从 macOS 原生容器到 Production 部署的完全指南(2026)
编程
Apple Container 深度实战:当 Swift 遇上轻量虚拟化——从 macOS 原生容器到 Production 部署的完全指南(2026)
2026-06-12 14:46:44 +0800 CST
view 950
深入解析苹果官方开源的 macOS 容器工具 apple/container,从架构设计、Virtualization.framework 技术栈、轻量VM模型等维度完整讲解,附实战部署示例。
Swift
Container
macOS
虚拟化
Apple Silicon
OCI
Docker
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
编程
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
2026-07-24 17:17:27 +0800 CST
view 193
深度解析 omlx:专为 Mac 优化的本地 LLM 推理服务器,通过连续批处理、分层 KV Cache、SSD 缓存和菜单栏管理,实现便捷与控制兼得的推理体验。涵盖技术架构、性能调优、RAG 实战和最佳实践。
LLM
Mac
Apple Silicon
推理优化
本地部署
omlx
colibrì 深度拆解:当1300行纯C在25GB笔记本上跑起744B大模型——纯C运行时、MoE稀疏激活与智谱GLM-5.2的工程奇迹(2026)
编程
colibrì 深度拆解:当1300行纯C在25GB笔记本上跑起744B大模型——纯C运行时、MoE稀疏激活与智谱GLM-5.2的工程奇迹(2026)
2026-07-19 09:14:11 +0800 CST
view 902
纯C语言实现的大模型推理引擎,仅用1300行代码在25GB内存笔记本上运行744B参数的GLM-5.2 MoE模型,含完整代码示例与技术解析
C语言
GLM-5.2
MoE
大模型推理
量化
AVX2
MLA注意力
推测解码
Apple Silicon
CloakBrowser 深度解析:49 个 C++ 补丁如何把 Chromium 变成「数字变色龙」——从源码级指纹篡改到 30/30 全通过的隐身浏览器架构内幕
编程
CloakBrowser 深度解析:49 个 C++ 补丁如何把 Chromium 变成「数字变色龙」——从源码级指纹篡改到 30/30 全通过的隐身浏览器架构内幕
2026-05-17 16:15:05 +0800 CST
view 612
深度解析 CloakBrowser 如何在 Chromium C++ 源码层打 49 个补丁,从根本上重写浏览器指纹信息,实现 30/30 检测全通过的反爬绕过方案。
CloakBrowser
Chromium
反爬虫
浏览器指纹
Playwright
Puppeteer
Python
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
编程
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
2026-04-12 22:56:41 +0800 CST
view 1067
2026年深度解析 llama.cpp 架构设计与 GGUF 量化格式,从底层原理到工程实战,涵盖 K-Quant/IQ 量化、Flash Attention、KV Cache 优化、Intel NPU/GPU 部署全流程。
llama.cpp
GGUF
量化
大模型
C++
本地部署
ds4.c 深度解析:Redis之父如何用纯C代码在MacBook上跑通284B大模型——从不对称量化到KV缓存磁盘化的完整技术内幕
编程
ds4.c 深度解析:Redis之父如何用纯C代码在MacBook上跑通284B大模型——从不对称量化到KV缓存磁盘化的完整技术内幕
2026-05-18 06:15:03 +0800 CST
view 677
Redis之父antirez开源ds4.c项目深度解析:用纯C语言在MacBook上运行284B参数大模型,不对称2-bit量化、KV缓存磁盘化、OpenAI/Anthropic API兼容,打造首个真正的本地Agent推理后端
AI推理
本地大模型
Redis
Apple Silicon
DeepSeek
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
4
5
...
57
下一页