程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
TurboQuant+深度拆解:极坐标量化+QJL残差编码——2bit KV Cache压缩重构 LLM 推理经济学
编程
TurboQuant+深度拆解:极坐标量化+QJL残差编码——2bit KV Cache压缩重构 LLM 推理经济学
2026-07-28 11:52:16 +0800 CST
view 142
深度拆解Google ICLR 2026论文TurboQuant及其工程增强TurboQuant+:极坐标量化+QJL残差编码实现2bit KV Cache压缩,配合llama.cpp跨后端(CUDA/ROCm/Metal/Vulkan)生产级落地,附完整代码实战与选型建议
TurboQuant
KV Cache
LLM推理
llama.cpp
量化
显存优化
Walsh-Hadamard
Vulkan
CUDA
ROCm
Xcode 27 三智能体融合:AI编程从「辅助补全」到「代理开发」的范式革命——2026年开发者工作流深度重构完全指南
编程
Xcode 27 三智能体融合:AI编程从「辅助补全」到「代理开发」的范式革命——2026年开发者工作流深度重构完全指南
2026-06-16 10:45:32 +0800 CST
view 295
2026年6月苹果Xcode 27 Beta将三大AI编程智能体全部原生集成进IDE。本文从架构原理出发,系统解析三层AI架构,并结合30天真实项目实测,全面评估这场从辅助补全到代理开发的范式革命对开发者的实际影响。
AI编程
Xcode
Apple
Claude
智能体
PyTorch 2.13 深度拆解:从 Metal 原生内核到 4 倍内存优化的工程全貌
编程
PyTorch 2.13 深度拆解:从 Metal 原生内核到 4 倍内存优化的工程全貌
2026-07-17 11:13:32 +0800 CST
view 403
深度拆解 PyTorch 2.13:FlexAttention 在 Apple Silicon 上提速 12 倍、CUTeDSL 为 Inductor 引入第二条代码生成路径、nn.LinearCrossEntropyLoss 将大词汇量模型显存降低 4 倍、torchcomms 重塑分布式训练通信层、ExecuTorch 正式并入核心,配完整生产级代码实战。
PyTorch
深度学习
AI框架
Metal
FlexAttention
Apple Silicon
分布式训练
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
编程
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
2026-06-02 09:36:52 +0800 CST
view 707
从vLLM到TensorRT-LLM,一次讲透vLLM、SGLang、TensorRT-LLM、llama.cpp四大LLM推理框架的架构哲学、核心原理、生产级部署实战与选型决策树。
LLM
vLLM
TensorRT-LLM
llama.cpp
SGLang
推理优化
GPU
BitNet 深度拆解:当大模型被压到 1.58 bit——从三元权重、BitLinear 到 bitnet.cpp 的端侧推理革命(2026)
编程
BitNet 深度拆解:当大模型被压到 1.58 bit——从三元权重、BitLinear 到 bitnet.cpp 的端侧推理革命(2026)
2026-07-17 14:24:55 +0800 CST
view 268
深度拆解微软 BitNet:1.58-bit 三值量化、Absmean/Absmax、BitLinear、bitnet.cpp 子矩阵内核,附 PyTorch 手写实现与 CPU 端侧推理性能实测。
BitNet
1-bit LLM
大模型推理
模型量化
端侧AI
bitnet.cpp
llama.cpp 深度实战:当端侧 LLM 成为生产级事实标准——从 GGUF 量化到跨平台部署的完全指南(2026)
编程
llama.cpp 深度实战:当端侧 LLM 成为生产级事实标准——从 GGUF 量化到跨平台部署的完全指南(2026)
2026-06-11 00:19:05 +0800 CST
view 505
全面解析 llama.cpp 推理引擎,从 GGUF 格式、量化原理、架构设计到跨平台部署,提供生产级代码实战和性能优化指南。
llama.cpp
GGUF
量化
端侧推理
大语言模型
Tabby 深度实战:用一台消费级 GPU 搭好团队私有的"Copilot"
编程
Tabby 深度实战:用一台消费级 GPU 搭好团队私有的"Copilot"
2026-07-24 01:46:45 +0800 CST
view 141
深度实战 TabbyML/tabby 自托管 AI 编程助手:三层架构与 llama-server 独立化重构、消费级 GPU 模型选型、Repository Context 语法感知 RAG 索引、FIM Prompt 拼装原理、systemd/nginx 生产部署、压测与 Prometheus 监控全套方案。
Tabby
AI编程
代码补全
自托管
llama.cpp
RAG
Rust
GPU
开源
Copilot
当 Apple Silicon 遇上视觉大模型:MLX-VLM 如何把「本地多模态推理」变成现实
编程
当 Apple Silicon 遇上视觉大模型:MLX-VLM 如何把「本地多模态推理」变成现实
2026-04-11 10:24:48 +0800 CST
view 884
深度解析 Apple Silicon 上的视觉语言模型推理引擎 MLX-VLM,涵盖架构设计、模型支持、性能优化与实战部署。
Apple Silicon
MLX
视觉语言模型
VLM
Mac本地AI
多模态推理
llmfit 深度拆解:一条命令算清你的机器能跑哪个大模型,Rust 硬件探测与适配度评分引擎全解析
编程
llmfit 深度拆解:一条命令算清你的机器能跑哪个大模型,Rust 硬件探测与适配度评分引擎全解析
2026-07-24 07:14:55 +0800 CST
view 150
深度拆解 GitHub Trending 破万星的 llmfit:Rust 硬件探测、权重与 KV cache 显存估算公式、内存带宽速度模型、MoE offload 运行模式,附 100 行 Python 复现 mini-llmfit 与工程集成实战。
llmfit
Rust
本地大模型
Ollama
llama.cpp
量化
KV cache
MoE
硬件选型
开源
oMLX 深度实战:当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南(2026)
编程
oMLX 深度实战:当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南(2026)
2026-06-22 17:24:05 +0800 CST
view 531
oMLX 是专为 Apple Silicon 优化的 LLM 推理服务器,通过连续批处理、分层 KV Cache、MLX 后端加速和 macOS 菜单栏管理,让本地 AI 推理从可用走向实用。
LLM
Apple Silicon
MLX
本地推理
MCP
Claude Code 集成 iOS 模拟器:AI 编程的「最后一公里」被谁打通了?
编程
Claude Code 集成 iOS 模拟器:AI 编程的「最后一公里」被谁打通了?
2026-07-24 09:43:46 +0800 CST
view 167
深度拆解 Anthropic Claude Code 集成 iOS 模拟器的技术原理:无障碍树读取、系统级触控事件注入、专用面板隔离设计,以及这一集成对 AI 编程工具链的深远影响。
Claude Code
iOS开发
SwiftUI
Xcode
AI编程
模拟器自动化
Apple
移动端开发
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
编程
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
2026-05-23 17:18:22 +0800 CST
view 2087
2026年深度拆解 llama.cpp 的核心架构:GGUF 格式原理、20+量化方法对比、KV Cache 优化、多硬件后端性能实测,与 Ollama/vLLM 完整横评。
llama.cpp
GGUF
量化
CUDA
Metal
LLM推理
C++
本地部署
性能优化
GGML
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
编程
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
2026-07-06 05:48:17 +0800 CST
view 197
深度解析Ollama本地LLM推理引擎架构与实战
Ollama
本地推理
LLM
Go
llama.cpp
GGUF
GPU
Modelfile
MCP 2026-07-28 深度拆解:当 AI 工具协议决定「干掉全部会话状态」——从有状态握手到无状态自包含,一个被 10 万+ Agent 采用的协议如何用 9 项破坏性变更重新定义工具集成的终极形态
编程
MCP 2026-07-28 深度拆解:当 AI 工具协议决定「干掉全部会话状态」——从有状态握手到无状态自包含,一个被 10 万+ Agent 采用的协议如何用 9 项破坏性变更重新定义工具集成的终极形态
2026-08-05 08:13:42 +0800 CST
view 10
深度拆解MCP 2026-07-28规范:9项破坏性变更,从有状态握手到无状态自包含,MRTR替代双向流,MCP Apps和Tasks扩展框架,OAuth企业级适配,附完整迁移代码与性能基准
MCP
Model Context Protocol
AI Agent
无状态
MRTR
MCP Apps
Tasks
OAuth
工具集成
协议
BitNet 1.58-bit:微软如何用三个值就让大模型在 CPU 上飞奔
编程
BitNet 1.58-bit:微软如何用三个值就让大模型在 CPU 上飞奔
2026-05-11 13:55:11 +0800 CST
view 650
微软开源BitNet 1.58-bit大模型推理框架,2B参数模型仅需0.4GB内存、29ms/token推理速度。核心创新:训练时量化、-1/0/+1三值权重、位运算加速,精度损失<5%却比INT4表现更好。纯CPU运行,71%能耗降低。
BitNet,1.58bit,微软,大模型量化,1bit LLM,CPU推理,bitnet.cpp,训练时量化,位运算加速,模型压缩
微信小程序开发框架深度解析:50K Star资源清单背后的9年生态演进
编程
微信小程序开发框架深度解析:50K Star资源清单背后的9年生态演进
2026-05-11 15:35:58 +0800 CST
view 733
从50.9K Star的awesome-wechat-weapp资源清单出发,深度解析微信小程序9年生态演进:uni-app/Taro/MPX三足鼎立,mpvue/WePY/chameleon/Remax已死,2026年选型指南
微信小程序
uni-app
Taro
MPX
跨端开发
WePY
mpvue
鸿蒙
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
编程
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
2026-07-24 17:17:27 +0800 CST
view 189
深度解析 omlx:专为 Mac 优化的本地 LLM 推理服务器,通过连续批处理、分层 KV Cache、SSD 缓存和菜单栏管理,实现便捷与控制兼得的推理体验。涵盖技术架构、性能调优、RAG 实战和最佳实践。
LLM
Mac
Apple Silicon
推理优化
本地部署
omlx
Uni-app 也能像 Vue 一样用 App.vue?这款插件做到了!
编程
Uni-app 也能像 Vue 一样用 App.vue?这款插件做到了!
2025-07-25 19:33:08 +0800 CST
view 1446
本文介绍了如何使用`@uni-ku/root`插件为uni-app提供根组件支持,使其能够像Vue一样使用App.vue。通过该插件,开发者可以轻松集成全局组件,如Toast、Loading等,解决了uni-app中全局状态共享和组件挂载的痛点。文章还提供了详细的安装和配置步骤,以及示例代码,帮助开发者更好地使用uni-app。
uni-app
Vue
前端开发
插件
组件
编程
vue中使用rsa加密和数字签名和后端如php进行加密交互
2024-11-19 02:17:27 +0800 CST
view 4282
本文介绍了如何在后端使用RAS加密,包括安装jsencrypt和crypto-js库,公私钥的生成与使用,以及如何进行数据的加密、解密和签名验证。提供了代码示例,展示了如何在uniapp项目中实现这些功能,并强调了保护公私钥的重要性,以防止被他人轻易获取。
加密
安全
后端开发
uniapp
数据保护
colibrì 深度拆解:当1300行纯C在25GB笔记本上跑起744B大模型——纯C运行时、MoE稀疏激活与智谱GLM-5.2的工程奇迹(2026)
编程
colibrì 深度拆解:当1300行纯C在25GB笔记本上跑起744B大模型——纯C运行时、MoE稀疏激活与智谱GLM-5.2的工程奇迹(2026)
2026-07-19 09:14:11 +0800 CST
view 893
纯C语言实现的大模型推理引擎,仅用1300行代码在25GB内存笔记本上运行744B参数的GLM-5.2 MoE模型,含完整代码示例与技术解析
C语言
GLM-5.2
MoE
大模型推理
量化
AVX2
MLA注意力
推测解码
Apple Silicon
资讯
商城APP开发费用解析:如何判断报价是否合理?
2024-11-19 01:02:48 +0800 CST
view 1845
本文分析了商城APP开发费用的影响因素,包括功能复杂度、开发方式、开发团队选择、设计与用户体验、后期维护等。提供了判断开发报价合理性的参考,强调源码交付和功能扩展的重要性。企业在开发前应明确需求,了解报价细节,以确保合理预算和高质量交付。
APP开发
软件开发
移动互联网
定制软件开发
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
编程
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
2026-04-12 22:56:41 +0800 CST
view 1054
2026年深度解析 llama.cpp 架构设计与 GGUF 量化格式,从底层原理到工程实战,涵盖 K-Quant/IQ 量化、Flash Attention、KV Cache 优化、Intel NPU/GPU 部署全流程。
llama.cpp
GGUF
量化
大模型
C++
本地部署
Shimmy 深度解析:纯 Rust WebGPU 推理引擎如何用一行命令颠覆浏览器端 AI 推理
编程
Shimmy 深度解析:纯 Rust WebGPU 推理引擎如何用一行命令颠覆浏览器端 AI 推理
2026-07-25 15:14:38 +0800 CST
view 117
深度解析 Shimmy v2.3.0:纯 Rust WebGPU 推理引擎如何实现浏览器端原生运行 GGUF 量化模型,OpenAI API 兼容,零依赖部署。
WebGPU
Rust
GGUF
AI推理
浏览器
llama.cpp
OpenAI API
前端工程
Lilishop:全开源 Java 多商户商城系统,一套代码通吃 PC、H5 和小程序
编程
Lilishop:全开源 Java 多商户商城系统,一套代码通吃 PC、H5 和小程序
2026-05-12 12:12:44 +0800 CST
view 627
Lilishop是一个全开源的Java B2B2C多商户商城系统,基于SpringBoot+Vue+uni-app,一套代码通吃PC/H5/小程序/APP,支持多商家入驻、分销、秒杀拼团、Elasticsearch搜索、Docker部署。
Lilishop
Java商城
B2B2C
多商户
开源电商
uni-app
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
6
7
8
9
10
...
67
下一页