程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
llama.cpp 架构深度拆解:从 GGML 到 GGUF、量化内核到跨平台推理栈,一文吃透本地 LLM 推理工程化
编程
llama.cpp 架构深度拆解:从 GGML 到 GGUF、量化内核到跨平台推理栈,一文吃透本地 LLM 推理工程化
2026-08-01 08:18:35 +0800 CST
view 198
深度拆解 llama.cpp 全栈架构:从 GGML 到 GGUF 格式演进、K-Quant 量化内核原理、ggml 张量计算图层、libllama 推理逻辑层、10+ 硬件后端调度,以及生产调优实战与踩坑清单。
llama.cpp
GGUF
GGML
量化
本地LLM
CPU推理
GPU加速
跨平台
K-Quant
html-ppt-skill:AI原生的HTML演示文稿技能,20天2600+Star
案例
html-ppt-skill:AI原生的HTML演示文稿技能,20天2600+Star
2026-05-06 17:02:28 +0800 CST
view 1515
20天2600+Star的神级skill!html-ppt-skill让AI帮你做PPT,输出纯HTML文件,零构建零依赖。36套主题、15套模板、31种布局、47个动效、像素级演讲者模式
AI PPT
HTML演示
Agent Skill
Claude Code
演示文稿
零依赖
演讲者模式
苹果 container 深度实战:41K Star 的原生容器工具,Apple Silicon 上的 Linux 容器新范式
编程
苹果 container 深度实战:41K Star 的原生容器工具,Apple Silicon 上的 Linux 容器新范式
2026-06-27 09:45:33 +0800 CST
view 564
苹果开源41K Star的Linux容器工具apple/container,深度解析per-container VM架构、Containerization Swift包、Virtualization.framework集成、多架构镜像构建与生产部署实战。
container
Apple Silicon
Swift
OCI
容器化
Docker
macOS
Virtualization framework
开源
多架构
腾讯混元开源 HyOCR-1.5 深度解读:端到端 OCR 的工程哲学与 DFlash 投机解码完全指南
编程
腾讯混元开源 HyOCR-1.5 深度解读:端到端 OCR 的工程哲学与 DFlash 投机解码完全指南
2026-07-21 12:46:56 +0800 CST
view 219
2026年7月腾讯混元开源HyOCR-1.5端到端OCR大模型,1B参数OmniDocBench 94.74分霸榜。深度拆解DFlash投机解码6.37倍加速、Agentic Data Flow自动化数据闭环、三阶段训练配方,以及vLLM/llama.cpp全场景部署实战。
HyOCR
HunyuanOCR
腾讯混元
端到端OCR
DFlash
投机解码
多模态模型
文档解析
文字识别
视觉语言模型
OmniDocBench
vLLM
llama.cpp
深度学习
UniApp H5跨域问题终极解决方案:两种代理配置方式详解
编程
UniApp H5跨域问题终极解决方案:两种代理配置方式详解
2025-09-01 20:46:27 +0800 CST
view 1849
本文介绍了在UniAppH5项目中解决跨域问题的两种方法:通过修改manifest.json文件和创建vue.config.js文件进行代理配置。详细说明了每种方法的配置步骤、参数解释及注意事项,并提供了请求封装的示例代码,帮助开发者提高代码的可维护性和复用性。
前端开发
UniApp
跨域问题
API
开发工具
Ollama 深度拆解:当大模型变成「一个文件」——GGUF、4-bit 量化与 llama.cpp 计算图如何重写本地推理的心智模型
编程
Ollama 深度拆解:当大模型变成「一个文件」——GGUF、4-bit 量化与 llama.cpp 计算图如何重写本地推理的心智模型
2026-07-15 08:45:14 +0800 CST
view 323
从工程师视角深度拆解 Ollama 与本地大模型推理引擎:GGUF 单文件格式、K-quant/IQ-quant 量化家族、内存带宽墙、llama.cpp 计算图与 KV Cache,配 Modelfile、Python/Go 流式客户端与自量化实战。
Ollama
llama.cpp
GGUF
本地推理
大模型量化
KV Cache
百度秒哒App上线:手机上对话就能搓出一个APP,从想法到安装包全链路搞定
编程
百度秒哒App上线:手机上对话就能搓出一个APP,从想法到安装包全链路搞定
2026-05-14 12:49:04 +0800 CST
view 1096
百度秒哒在Create 2026推出App版,手机对话即可生成可安装APP,从需求文档到打包签名发布全链路AI搞定,8岁小朋友用对话搓出拼伞小程序,普通人的创造力被AI解锁。
AI编程
百度秒哒
Vibe Coding
无代码
App开发
DeepSeek-R1边缘推理实战:从云端独占到本地智能的范式转移
编程
DeepSeek-R1边缘推理实战:从云端独占到本地智能的范式转移
2026-05-19 12:42:27 +0800 CST
view 595
2026年,边缘AI不再只是云端模型的精简版。本文深入剖析DeepSeek-R1 CPU版的技术原理,从模型蒸馏、量化技术的底层原理到生产环境的完整部署方案,提供可直接落地的代码和可量化的性能数据。
DeepSeek
R1
边缘计算
AI推理
模型蒸馏
量化
llama.cpp
Ollama
端侧AI
TiDB HTAP 架构深度拆解:从 Raft 共识到列存 MPP,手写一个混合负载查询引擎
编程
TiDB HTAP 架构深度拆解:从 Raft 共识到列存 MPP,手写一个混合负载查询引擎
2026-08-02 20:14:17 +0800 CST
view 135
从第一性原理深度剖析TiDB HTAP架构:Raft Multi-Group共识协议、Percolator 2PC分布式事务、TiKV行存与TiFlash列存并存设计、MPP执行引擎、查询优化器的CBO代价模型,附完整Docker部署与性能调优方法论
TiDB
HTAP
分布式数据库
Raft
TiFlash
TiKV
列存
MPP
MySQL兼容
性能优化
Mano-P + Cider:4B模型本地操控Mac,端侧GUI Agent新时代
案例
Mano-P + Cider:4B模型本地操控Mac,端侧GUI Agent新时代
2026-05-07 13:34:32 +0800 CST
view 569
明略科技开源Mano-P(4B量化模型本地操控Mac)和Cider(MLX推理加速框架)。476 tokens/s预填充,76 tokens/s解码,峰值内存4.3GB,完全本地运行数据不出设备,离线长任务自主规划
GUI Agent
端侧AI
Apple Silicon
MLX
视觉理解
本地运行
Mano-P
Cider
WinApps:让 Linux 流畅运行 Windows 应用,狂揽 1.5 万 Star
编程
WinApps:让 Linux 流畅运行 Windows 应用,狂揽 1.5 万 Star
2026-07-09 11:57:08 +0800 CST
view 211
WinApps在Linux上运行Windows应用,Word/Excel/Photoshop像原生一样独立窗口,VM投射+文件共享,15400+ Star,一行命令安装。
Linux
Windows
WinApps
开源
虚拟机
兼容性
Office
跨平台
Docker
oMLX 深度解析:Apple Silicon 原生的本地大模型推理服务器——从分层 KV 缓存到菜单栏级 AI 编码伴侣
编程
oMLX 深度解析:Apple Silicon 原生的本地大模型推理服务器——从分层 KV 缓存到菜单栏级 AI 编码伴侣
2026-05-21 22:30:11 +0800 CST
view 906
深入解析 oMLX 的分层 KV 缓存架构(热 RAM + 冷 SSD)、Copy-on-Write 优化、与 Claude Code 的深度集成,以及 Apple Silicon 原生的推理性能优化。
oMLX
Apple Silicon
本地大模型
KV缓存
MLX
推理服务器
llama.cpp 深度拆解:一个纯 C++ 引擎如何让 180K Star 成为端侧 LLM 的事实标准——从 GGUF 格式到多后端架构的全栈解析
编程
llama.cpp 深度拆解:一个纯 C++ 引擎如何让 180K Star 成为端侧 LLM 的事实标准——从 GGUF 格式到多后端架构的全栈解析
2026-08-03 10:45:17 +0800 CST
view 256
深度拆解llama.cpp四大核心架构:GGUF模型格式设计、GGML计算引擎、8种多后端抽象层、K-Quant/I-Quant量化技术体系,附完整代码示例与性能基准测试
llama.cpp
GGUF
GGML
量化
端侧推理
LLM
C++
推理引擎
多后端
K-Quant
Next.js 15 深度实战:当 App Router 遇上 Turbopack —— 从缓存革命到生产级性能优化的完全指南(2026)
编程
Next.js 15 深度实战:当 App Router 遇上 Turbopack —— 从缓存革命到生产级性能优化的完全指南(2026)
2026-06-09 21:48:40 +0800 CST
view 623
Next.js 15 深度实战指南,详解 Turbopack、Partial Prerendering、use() Hook 等核心特性,从架构原理到生产级优化的完整教程。
Next.js 15
Turbopack
React
App Router
性能优化
GitHub 8K+ Star的AI PPT工具:生成的不是图片,是真正可以编辑的PowerPoint
编程
GitHub 8K+ Star的AI PPT工具:生成的不是图片,是真正可以编辑的PowerPoint
2026-04-28 03:24:21 +0800 CST
view 1165
PPT Master是一个8K+ Star的开源AI PPT工具,通过SVG→DrawingML转换生成真正可编辑的PowerPoint原生对象,不是图片。支持PDF、Word、网页等多种输入,本地处理数据不出本机,最低$0.08/份。
PPT
AI工具
开源项目
GitHub
PowerPoint
Ollama 融资 6500 万美元背后:2026 年本地大模型运行时生态深度拆解——为什么「极简主义」赢了
编程
Ollama 融资 6500 万美元背后:2026 年本地大模型运行时生态深度拆解——为什么「极简主义」赢了
2026-07-16 11:45:03 +0800 CST
view 358
从 Ollama 6500 万美元融资事件切入,深度拆解 2026 年本地大模型运行时生态:Ollama、llama.cpp、LocalAI、LiteBox、vLLM 的架构设计、性能对比、API 设计、适用场景,配完整代码实战与生产部署踩坑指南。
Ollama
本地大模型
llama.cpp
LocalAI
LiteBox
本地LLM
推理引擎
量化
GGUF
MCP
当 C/C++ 遇上 Rust:llama.cpp 与 LiteBox 深度架构对比——2026 年本地 LLM 推理框架的心智模型之战
编程
当 C/C++ 遇上 Rust:llama.cpp 与 LiteBox 深度架构对比——2026 年本地 LLM 推理框架的心智模型之战
2026-07-16 12:50:04 +0800 CST
view 244
深度对比 llama.cpp 与 LiteBox 两大本地 LLM 推理框架:GGUF 格式设计、K-Quant 量化内核、KV cache 管理、多后端抽象、并发架构,配完整代码实战与性能实测数据。
llama.cpp
LiteBox
GGUF
量化
KV cache
本地LLM
推理框架
Rust
C/C++
模型压缩
Ollama 0.30 深度实战:当本地 LLM 推理有了双引擎——从 llama.cpp + MLX 双后端到 Gemma 4 QAT、从 Cohere2 MoE 到 ollama launch AI 编程助手生态的生产级完全指南(2026)
编程
Ollama 0.30 深度实战:当本地 LLM 推理有了双引擎——从 llama.cpp + MLX 双后端到 Gemma 4 QAT、从 Cohere2 MoE 到 ollama launch AI 编程助手生态的生产级完全指南(2026)
2026-06-21 08:54:17 +0800 CST
view 743
Ollama 0.30 深度解析:双引擎推理架构、Gemma 4 QAT、Cohere2 MoE、ollama launch 生态与生产级部署完全指南
Ollama
LLM
本地推理
AI编程
llama.cpp
MLX
Gemma
开源
Apple CoreCrypto 开源深度解析:后量子密码学的形式化验证革命
编程
Apple CoreCrypto 开源深度解析:后量子密码学的形式化验证革命
2026-05-31 09:25:15 +0800 CST
view 696
深度解析 Apple CoreCrypto 后量子密码学开源实现,包括 ML-KEM、ML-DSA 算法的架构设计、形式化验证方法论,以及生产环境落地指南。
密码学
安全
Apple
后量子
形式化验证
Gemma MacOS Tuner 深度解析:在 Apple Silicon 上用 PyTorch 和 MPS 高效微调多模态 Gemma
编程
Gemma MacOS Tuner 深度解析:在 Apple Silicon 上用 PyTorch 和 MPS 高效微调多模态 Gemma
2026-04-09 01:14:39 +0800 CST
view 1318
详解 gemma-tuner-multimodal 项目:在 Apple Silicon 上通过 PyTorch MPS 后端对 Google Gemma 系列模型进行 LoRA 微调,支持文本、图像、音频三种模态,完全本地运行,数据不出机器,零 NVIDIA GPU 依赖。
Gemma
Apple Silicon
PyTorch
MPS
LoRA
微调
Machine Learning
WWDC 2026 深度前瞻:从「雪豹式」iOS 27 到 AI 原生 Swift——苹果开发者生态的范式迁移
编程
WWDC 2026 深度前瞻:从「雪豹式」iOS 27 到 AI 原生 Swift——苹果开发者生态的范式迁移
2026-05-22 07:49:46 +0800 CST
view 602
WWDC 2026 前瞻深度解析:iOS 27雪豹式更新、Siri Agent化、Apple Intelligence系统级渗透、Swift 6.2并发模型革新
WWDC
iOS 27
Swift
Apple Intelligence
Siri
Go工业物联网实时数据监控平台:Kafka+WebSocket+Go协程,1000+设备毫秒级可视化
编程
Go工业物联网实时数据监控平台:Kafka+WebSocket+Go协程,1000+设备毫秒级可视化
2026-06-23 09:19:44 +0800 CST
view 347
simplied-iot-monitoring-go:Go企业级工业物联网实时监控系统。Kafka生产者模拟1000+设备数据,Go协程并发处理,30秒窗口聚合,Gorilla WebSocket毫秒级推送前端ECharts可视化。延迟<100ms,支持Prometheus+Grafana监控,完整Docker/K8s部署方案。
Go
工业IoT
Kafka
WebSocket
实时监控
ECharts
Prometheus
Grafana
Docker
Kubernetes
语音智能体流水线深度拆解:VAD→STT→LLM→TTS 四级管线如何用开源模型复刻 OpenAI Realtime
编程
语音智能体流水线深度拆解:VAD→STT→LLM→TTS 四级管线如何用开源模型复刻 OpenAI Realtime
2026-08-01 09:43:09 +0800 CST
view 156
深度拆解 huggingface/speech-to-speech 本地语音智能体:VAD→STT→LLM→TTS 四级流水线架构、OpenAI Realtime 兼容协议、打断处理与延迟优化实战
语音智能体
speech-to-speech
VAD
STT
TTS
OpenAI Realtime
WebSocket
本地部署
AI Agent
流式处理
Redis 8.0 深度拆解:当内存数据库决定拥抱 AI 原生——从 Vector Sets 向量集合、语义缓存到多线程 IO 与统一分发的全链路实战
编程
Redis 8.0 深度拆解:当内存数据库决定拥抱 AI 原生——从 Vector Sets 向量集合、语义缓存到多线程 IO 与统一分发的全链路实战
2026-08-12 05:12:50 +0800 CST
view 4
深度拆解 Redis 8.0:Vector Set 向量集合、Q8/BIN 量化、自建语义缓存、新 Hash 字段级 TTL 命令、One Redis 统一分发与 87% 延迟下降,含完整 Python 代码实战与 15 条踩坑清单。
Redis 8.0
Vector Sets
向量数据库
AI原生
语义缓存
多线程IO
Redis Open Source
性能优化
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
4
5
6
7
8
...
55
下一页