程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
编程
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
2026-05-23 17:18:22 +0800 CST
view 2086
2026年深度拆解 llama.cpp 的核心架构:GGUF 格式原理、20+量化方法对比、KV Cache 优化、多硬件后端性能实测,与 Ollama/vLLM 完整横评。
llama.cpp
GGUF
量化
CUDA
Metal
LLM推理
C++
本地部署
性能优化
GGML
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
编程
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
2026-07-06 05:48:17 +0800 CST
view 194
深度解析Ollama本地LLM推理引擎架构与实战
Ollama
本地推理
LLM
Go
llama.cpp
GGUF
GPU
Modelfile
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
编程
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
2026-04-12 22:56:41 +0800 CST
view 1049
2026年深度解析 llama.cpp 架构设计与 GGUF 量化格式,从底层原理到工程实战,涵盖 K-Quant/IQ 量化、Flash Attention、KV Cache 优化、Intel NPU/GPU 部署全流程。
llama.cpp
GGUF
量化
大模型
C++
本地部署
把大模型装进机房:Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透(2026)
编程
把大模型装进机房:Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透(2026)
2026-07-14 03:43:32 +0800 CST
view 222
深度拆解 Ollama 本地大模型推理工程化:从 GGUF 量化原理、MoE 专家调度、推理栈与 KV 缓存,到 Modelfile 定制、自量化、Python 客户端、FastAPI 生产服务、Docker 部署与性能调优,配完整可运行代码与 vLLM 对比。
Ollama
本地大模型
llama.cpp
GGUF量化
大模型部署
AI工程化
隐私计算
推理优化
Ollama 完全指南:本地大模型部署的事实标准——从原理到生产级 AI 应用开发(2026)
编程
Ollama 完全指南:本地大模型部署的事实标准——从原理到生产级 AI 应用开发(2026)
2026-06-05 04:13:34 +0800 CST
view 472
Ollama 本地大模型部署完全指南,从架构原理到生产级部署,涵盖 RAG 集成、性能优化、Docker/K8s 部署等核心内容。
Ollama
本地大模型
AI应用开发
Go语言
llama.cpp
Ollama 完全指南:本地大模型部署的事实标准——架构、实战与生产级部署(2026)
编程
Ollama 完全指南:本地大模型部署的事实标准——架构、实战与生产级部署(2026)
2026-06-05 04:13:52 +0800 CST
view 614
Ollama 本地大模型部署完全指南,从架构原理到生产级部署,涵盖 RAG 集成、性能优化、Docker/K8s 部署等核心内容。
Ollama
本地大模型
AI应用开发
Go语言
llama.cpp
Gemma 4 12B 深度实战:当 Google 把「无编码器多模态」塞进 16GB 笔记本——从统一架构原理到生产级本地 Agent 的完全指南(2026)
编程
Gemma 4 12B 深度实战:当 Google 把「无编码器多模态」塞进 16GB 笔记本——从统一架构原理到生产级本地 Agent 的完全指南(2026)
2026-06-14 04:46:45 +0800 CST
view 493
深度解析 Google DeepMind Gemma 4 12B 的无编码器统一多模态架构,从原理到代码实战,涵盖 llama.cpp 部署、量化策略、Agent 工作流和生产级架构设计(2026)。
Gemma 4
Google DeepMind
多模态
本地部署
Agent
llama.cpp
开源大模型
腾讯混元开源 HyOCR-1.5 深度解读:端到端 OCR 的工程哲学与 DFlash 投机解码完全指南
编程
腾讯混元开源 HyOCR-1.5 深度解读:端到端 OCR 的工程哲学与 DFlash 投机解码完全指南
2026-07-21 12:46:56 +0800 CST
view 174
2026年7月腾讯混元开源HyOCR-1.5端到端OCR大模型,1B参数OmniDocBench 94.74分霸榜。深度拆解DFlash投机解码6.37倍加速、Agentic Data Flow自动化数据闭环、三阶段训练配方,以及vLLM/llama.cpp全场景部署实战。
HyOCR
HunyuanOCR
腾讯混元
端到端OCR
DFlash
投机解码
多模态模型
文档解析
文字识别
视觉语言模型
OmniDocBench
vLLM
llama.cpp
深度学习
1.58-bit 大模型极限量化实战:从 BitNet 三值权重到单颗 CPU 跑起 100B 模型
编程
1.58-bit 大模型极限量化实战:从 BitNet 三值权重到单颗 CPU 跑起 100B 模型
2026-07-21 16:20:29 +0800 CST
view 178
2026极限量化实战:BitNet三值权重、absmean/absmax量化、BitLinear实现、带宽数学与bitnet.cpp内核优化,单CPU跑100B模型。
BitNet
1.58-bit
大模型量化
LLM
端侧推理
bitnet.cpp
Ollama 深度拆解:当大模型变成「一个文件」——GGUF、4-bit 量化与 llama.cpp 计算图如何重写本地推理的心智模型
编程
Ollama 深度拆解:当大模型变成「一个文件」——GGUF、4-bit 量化与 llama.cpp 计算图如何重写本地推理的心智模型
2026-07-15 08:45:14 +0800 CST
view 249
从工程师视角深度拆解 Ollama 与本地大模型推理引擎:GGUF 单文件格式、K-quant/IQ-quant 量化家族、内存带宽墙、llama.cpp 计算图与 KV Cache,配 Modelfile、Python/Go 流式客户端与自量化实战。
Ollama
llama.cpp
GGUF
本地推理
大模型量化
KV Cache
DeepSeek-R1边缘推理实战:从云端独占到本地智能的范式转移
编程
DeepSeek-R1边缘推理实战:从云端独占到本地智能的范式转移
2026-05-19 12:42:27 +0800 CST
view 549
2026年,边缘AI不再只是云端模型的精简版。本文深入剖析DeepSeek-R1 CPU版的技术原理,从模型蒸馏、量化技术的底层原理到生产环境的完整部署方案,提供可直接落地的代码和可量化的性能数据。
DeepSeek
R1
边缘计算
AI推理
模型蒸馏
量化
llama.cpp
Ollama
端侧AI
llama.cpp 深度拆解:一个纯 C++ 引擎如何让 180K Star 成为端侧 LLM 的事实标准——从 GGUF 格式到多后端架构的全栈解析
编程
llama.cpp 深度拆解:一个纯 C++ 引擎如何让 180K Star 成为端侧 LLM 的事实标准——从 GGUF 格式到多后端架构的全栈解析
2026-08-03 10:45:17 +0800 CST
view 43
深度拆解llama.cpp四大核心架构:GGUF模型格式设计、GGML计算引擎、8种多后端抽象层、K-Quant/I-Quant量化技术体系,附完整代码示例与性能基准测试
llama.cpp
GGUF
GGML
量化
端侧推理
LLM
C++
推理引擎
多后端
K-Quant
当 C/C++ 遇上 Rust:llama.cpp 与 LiteBox 深度架构对比——2026 年本地 LLM 推理框架的心智模型之战
编程
当 C/C++ 遇上 Rust:llama.cpp 与 LiteBox 深度架构对比——2026 年本地 LLM 推理框架的心智模型之战
2026-07-16 12:50:04 +0800 CST
view 208
深度对比 llama.cpp 与 LiteBox 两大本地 LLM 推理框架:GGUF 格式设计、K-Quant 量化内核、KV cache 管理、多后端抽象、并发架构,配完整代码实战与性能实测数据。
llama.cpp
LiteBox
GGUF
量化
KV cache
本地LLM
推理框架
Rust
C/C++
模型压缩
Ollama 0.30 深度实战:当本地 LLM 推理有了双引擎——从 llama.cpp + MLX 双后端到 Gemma 4 QAT、从 Cohere2 MoE 到 ollama launch AI 编程助手生态的生产级完全指南(2026)
编程
Ollama 0.30 深度实战:当本地 LLM 推理有了双引擎——从 llama.cpp + MLX 双后端到 Gemma 4 QAT、从 Cohere2 MoE 到 ollama launch AI 编程助手生态的生产级完全指南(2026)
2026-06-21 08:54:17 +0800 CST
view 644
Ollama 0.30 深度解析:双引擎推理架构、Gemma 4 QAT、Cohere2 MoE、ollama launch 生态与生产级部署完全指南
Ollama
LLM
本地推理
AI编程
llama.cpp
MLX
Gemma
开源
TypeORM 1.0 深度实战:当元老级 ORM 终于走出 0.x 漫漫长夜——从装饰器实体、QueryBuilder 内核到 valuesFromSelect / RETURNING 与 mysql2 迁移的生产级完全指南
编程
TypeORM 1.0 深度实战:当元老级 ORM 终于走出 0.x 漫漫长夜——从装饰器实体、QueryBuilder 内核到 valuesFromSelect / RETURNING 与 mysql2 迁移的生产级完全指南
2026-07-12 05:11:54 +0800 CST
view 179
深度拆解 TypeORM 1.0:装饰器实体、QueryBuilder 内核、mysql2/better-sqlite3 驱动换血、valuesFromSelect 与 RETURNING 新特性,配可运行代码与生产级迁移与性能优化实战。
TypeORM 1.0
DataMapper
QueryBuilder
ORM 选型
mysql2
RETURNING
HyperFrames 深度解析:HeyGen 开源的「HTML 写视频」革命——从 FrameAdapter 架构到 AI Agent 驱动的内容生产新范式
编程
HyperFrames 深度解析:HeyGen 开源的「HTML 写视频」革命——从 FrameAdapter 架构到 AI Agent 驱动的内容生产新范式
2026-05-19 00:47:13 +0800 CST
view 1040
HeyGen 开源的 HyperFrames 框架深度解析:HTML+GSAP 写视频的革命性技术,FrameAdapter 架构、Puppeteer 逐帧捕获、FFmpeg 编码、AI Agent 自动化生产完整指南,对比 Remotion 与生产级实战
HyperFrames
AI视频
GSAP
Puppeteer
FFmpeg
视频渲染
前端工具
HeyGen
AI Agent
自动化生产
万字深度解析 React Server Components:当同构渲染遇见「边界艺术」——从渲染模型到生产级性能优化的完整技术指南(2026)
编程
万字深度解析 React Server Components:当同构渲染遇见「边界艺术」——从渲染模型到生产级性能优化的完整技术指南(2026)
2026-07-02 15:44:03 +0800 CST
view 209
深度解析 React Server Components 的性能调优策略,涵盖边界划分艺术、流式渲染进阶、多级缓存体系构建,以及 Next.js App Router 实战优化,含 20+ 可运行代码示例
React Server Components
RSC
性能优化
Next.js
App Router
前端优化
流式渲染
浏览器自动化的终极解法:CloakBrowser 如何用 58 处 C++ 补丁让所有反机器人系统失效
编程
浏览器自动化的终极解法:CloakBrowser 如何用 58 处 C++ 补丁让所有反机器人系统失效
2026-06-21 19:31:21 +0800 CST
view 333
CloakBrowser 通过在 Chromium C++ 源码层打入 58 处补丁,从 GPU 渲染、WebGL 指纹、Canvas 声纹到网络时序特征实现真正的浏览器隐身。无需 JS 注入,直接替换 Playwright/Puppeteer 的 import,三行代码迁移,30/30 检测站点全部通过。
CloakBrowser
Chromium
反爬虫
浏览器自动化
Playwright
Puppeteer
CloakBrowser 深度解析:49 个 C++ 补丁如何把 Chromium 变成「数字变色龙」——从源码级指纹篡改到 30/30 全通过的隐身浏览器架构内幕
编程
CloakBrowser 深度解析:49 个 C++ 补丁如何把 Chromium 变成「数字变色龙」——从源码级指纹篡改到 30/30 全通过的隐身浏览器架构内幕
2026-05-17 16:15:05 +0800 CST
view 604
深度解析 CloakBrowser 如何在 Chromium C++ 源码层打 49 个补丁,从根本上重写浏览器指纹信息,实现 30/30 检测全通过的反爬绕过方案。
CloakBrowser
Chromium
反爬虫
浏览器指纹
Playwright
Puppeteer
Python
万字深度解析 CloakBrowser:当反爬虫遇见「源码级隐身革命」——从 Chromium 指纹检测机制到 59 处 C++ 补丁、从浏览器自动化到 AI Agent 操控的完整技术指南(2026)
编程
万字深度解析 CloakBrowser:当反爬虫遇见「源码级隐身革命」——从 Chromium 指纹检测机制到 59 处 C++ 补丁、从浏览器自动化到 AI Agent 操控的完整技术指南(2026)
2026-07-02 09:16:05 +0800 CST
view 403
深度解析 CloakBrowser——2026年革命性反爬虫解决方案,59处C++源码补丁实现真正的浏览器级隐身,通过所有主流反机器人检测系统。
CloakBrowser
反爬虫
Chromium指纹
浏览器自动化
Playwright
Puppeteer
Web Scraping
Python
JavaScript
AI Agent
CloakBrowser 深度实战:当反爬虫战争进入「内核级隐身」——从 C++ 源码补丁到 Browser Fingerprint 完全伪造的生产级完全指南(2026)
编程
CloakBrowser 深度实战:当反爬虫战争进入「内核级隐身」——从 C++ 源码补丁到 Browser Fingerprint 完全伪造的生产级完全指南(2026)
2026-06-14 00:46:29 +0800 CST
view 524
CloakBrowser 深度实战:基于 C++ 源码级修改的隐身 Chromium 浏览器,通过 30+ 个内核级指纹补丁实现对 Cloudflare Turnstile、Akamai Bot Manager 等反爬虫系统的完全绕过。
CloakBrowser
浏览器指纹
反爬虫
Chromium
Playwright
Puppeteer
WebGL
Canvas
CloakBrowser源码级反爬虫:57个C++指纹补丁深度解析
编程
CloakBrowser源码级反爬虫:57个C++指纹补丁深度解析
2026-05-09 01:07:05 +0800 CST
view 1329
深度解析开源项目CloakBrowser的工作原理——通过57个C++源码补丁,从底层重构Chromium的指纹系统,让自动化浏览器彻底绕过Cloudflare、reCAPTCHA等主流反爬虫检测。
CloakBrowser
Chromium
反爬虫
浏览器指纹
Playwright
Puppeteer
开源
网络安全
Apple container 深度拆解:一容器一虚拟机,Swift 如何在 macOS 上重写 Linux 容器运行时
编程
Apple container 深度拆解:一容器一虚拟机,Swift 如何在 macOS 上重写 Linux 容器运行时
2026-07-30 02:43:43 +0800 CST
view 113
深度拆解 Apple 开源的 container 与 Containerization 框架:一容器一轻量虚拟机架构、Swift 编写的 vminitd init 进程、macOS 侧 EXT4 镜像物化、每容器独立 IP 网络模型,附 Go 服务实战、性能对比与冷静的边界分析。
Apple container
Containerization
Swift
轻量虚拟机
macOS
容器技术
vminitd
Virtualization
开源
Apple Container 深度实战:当 Swift 遇上轻量虚拟化——从 macOS 原生容器到 Production 部署的完全指南(2026)
编程
Apple Container 深度实战:当 Swift 遇上轻量虚拟化——从 macOS 原生容器到 Production 部署的完全指南(2026)
2026-06-12 14:46:44 +0800 CST
view 933
深入解析苹果官方开源的 macOS 容器工具 apple/container,从架构设计、Virtualization.framework 技术栈、轻量VM模型等维度完整讲解,附实战部署示例。
Swift
Container
macOS
虚拟化
Apple Silicon
OCI
Docker
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
4
5
...
84
下一页