程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
编程
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
2026-04-12 22:56:41 +0800 CST
view 618
2026年深度解析 llama.cpp 架构设计与 GGUF 量化格式,从底层原理到工程实战,涵盖 K-Quant/IQ 量化、Flash Attention、KV Cache 优化、Intel NPU/GPU 部署全流程。
llama.cpp
GGUF
量化
大模型
C++
本地部署
英伟达免费开放H100算力:DeepSeek、Kimi、GLM等主流大模型API免费用
编程
英伟达免费开放H100算力:DeepSeek、Kimi、GLM等主流大模型API免费用
2026-04-21 13:09:34 +0800 CST
view 1520
英伟达Build平台免费开放H100算力和主流大模型API,支持DeepSeek、Kimi、GLM等,3步拿到Key,代码对接OpenAI格式即可使用。
NVIDIA
大模型
免费API
DeepSeek
Kimi
2026年端侧AI千亿参数突破深度解析:从量化技术到NPU架构,手机如何跑赢云端大模型
编程
2026年端侧AI千亿参数突破深度解析:从量化技术到NPU架构,手机如何跑赢云端大模型
2026-04-22 03:52:11 +0800 CST
view 430
深度解析2026年端侧AI千亿参数突破的技术原理:从INT4量化到MoE架构,从存算一体NPU到动态内存优化,揭示手机如何跑赢云端大模型的核心工程密码。
AI
端侧AI
大模型
量化
NPU
大模型部署太慢?这个超级引擎帮你搞定!SGLang速通指南
编程
大模型部署太慢?这个超级引擎帮你搞定!SGLang速通指南
2026-04-22 09:27:57 +0800 CST
view 398
DeepSeek官方推荐!SGLang高性能大模型推理框架速通指南,RadixAttention前缀缓存、零开销调度、OpenAI API兼容,性能碾压vLLM。
SGLang
大模型推理
DeepSeek
开源
vLLM
ds4.c 深度解析:Redis之父如何用纯C代码在MacBook上跑通284B大模型——从不对称量化到KV缓存磁盘化的完整技术内幕
编程
ds4.c 深度解析:Redis之父如何用纯C代码在MacBook上跑通284B大模型——从不对称量化到KV缓存磁盘化的完整技术内幕
2026-05-18 06:15:03 +0800 CST
view 385
Redis之父antirez开源ds4.c项目深度解析:用纯C语言在MacBook上运行284B参数大模型,不对称2-bit量化、KV缓存磁盘化、OpenAI/Anthropic API兼容,打造首个真正的本地Agent推理后端
AI推理
本地大模型
Redis
Apple Silicon
DeepSeek
LangGraph 深度实战:从状态机架构到生产级 Multi-Agent 编排的完整指南(2026)
编程
LangGraph 深度实战:从状态机架构到生产级 Multi-Agent 编排的完整指南(2026)
2026-06-04 18:45:17 +0800 CST
view 138
2026年最全面的LangGraph实战指南:从状态机架构原理到生产级Multi-Agent协作系统开发,包含完整代码示例与电商智能客服案例。
LangGraph
Multi-Agent
AI Agent
Python
大模型
MiniMax M2.7 深度解析:当 AI 模型开始自己训练自己——从自我进化架构到软件工程能力全面评测
编程
MiniMax M2.7 深度解析:当 AI 模型开始自己训练自己——从自我进化架构到软件工程能力全面评测
2026-04-13 19:57:01 +0800 CST
view 1102
MiniMax M2.7 开源模型深度解析:自我进化架构、SWE-Pro 56.22% 软件工程能力、OpenRoom 多模态交互、本地部署方案与开源协议争议全面剖析。
AI
大模型
MiniMax
自我进化
开源
SWE-Pro
Ollama 完全指南:本地大模型部署的事实标准——从原理到生产级 AI 应用开发(2026)
编程
Ollama 完全指南:本地大模型部署的事实标准——从原理到生产级 AI 应用开发(2026)
2026-06-05 04:13:34 +0800 CST
view 158
Ollama 本地大模型部署完全指南,从架构原理到生产级部署,涵盖 RAG 集成、性能优化、Docker/K8s 部署等核心内容。
Ollama
本地大模型
AI应用开发
Go语言
llama.cpp
Ollama 完全指南:本地大模型部署的事实标准——架构、实战与生产级部署(2026)
编程
Ollama 完全指南:本地大模型部署的事实标准——架构、实战与生产级部署(2026)
2026-06-05 04:13:52 +0800 CST
view 203
Ollama 本地大模型部署完全指南,从架构原理到生产级部署,涵盖 RAG 集成、性能优化、Docker/K8s 部署等核心内容。
Ollama
本地大模型
AI应用开发
Go语言
llama.cpp
DiffusionGemma 深度实战:当文本生成进入「扩散纪元」——从离散扩散原理到本地高速推理的完全指南(2026)
编程
DiffusionGemma 深度实战:当文本生成进入「扩散纪元」——从离散扩散原理到本地高速推理的完全指南(2026)
2026-06-14 01:18:58 +0800 CST
view 65
2026年6月Google开源DiffusionGemma——基于离散扩散技术的文本生成模型,打破传统自回归范式,实现4倍生成速度提升。本文深入解析其架构原理、性能实测、代码实战与生产落地。
DiffusionGemma
离散扩散
文本生成
AI大模型
Google
并行推理
MoE架构
BitNet b1.58 深度解析:微软如何用1.58位量化颠覆大模型推理范式
编程
BitNet b1.58 深度解析:微软如何用1.58位量化颠覆大模型推理范式
2026-04-23 19:09:57 +0800 CST
view 391
深度解析微软开源的BitNet b1.58 2B4T模型,从1.58位三值量化原理、架构设计、性能对比到部署实战,全面剖析这个仅需0.4GB内存、在普通CPU上流畅运行的革命性大语言模型。
BitNet
量化
大模型
微软
CPU推理
边缘计算
LiteLLM深度解析:统一调用100+大模型的AI网关SDK架构设计与实战
编程
LiteLLM深度解析:统一调用100+大模型的AI网关SDK架构设计与实战
2026-04-23 21:13:57 +0800 CST
view 512
LiteLLM是一个统一调用100+大模型API的AI网关SDK,旨在解决大模型API碎片化问题。它采用OpenAI格式作为统一接口,支持PythonSDK和ProxyServer双引擎架构。
AI基础设施
大模型开发
API网关
Python开发
系统架构
性能优化
安全防护
开源项目
Gemma 4 12B 深度实战:当 Google 把「无编码器多模态」塞进 16GB 笔记本——从统一架构原理到生产级本地 Agent 的完全指南(2026)
编程
Gemma 4 12B 深度实战:当 Google 把「无编码器多模态」塞进 16GB 笔记本——从统一架构原理到生产级本地 Agent 的完全指南(2026)
2026-06-14 04:46:45 +0800 CST
view 66
深度解析 Google DeepMind Gemma 4 12B 的无编码器统一多模态架构,从原理到代码实战,涵盖 llama.cpp 部署、量化策略、Agent 工作流和生产级架构设计(2026)。
Gemma 4
Google DeepMind
多模态
本地部署
Agent
llama.cpp
开源大模型
Llama 4 MoE 架构深度解析:从混合专家到万亿参数的技术革命
编程
Llama 4 MoE 架构深度解析:从混合专家到万亿参数的技术革命
2026-05-28 16:37:41 +0800 CST
view 144
深入解析 Meta Llama 4 的 MoE 混合专家架构原理,探讨其如何以 17B 激活参数撬动万亿级算力,并提供完整的本地部署实战指南。
Llama4
MoE
混合专家
开源大模型
本地部署
Meta
人工智能
深度学习
DeepSeek-V4预览版深度解析:MoE架构+百万上下文+1.6T参数,开源旗舰模型全面升级
编程
DeepSeek-V4预览版深度解析:MoE架构+百万上下文+1.6T参数,开源旗舰模型全面升级
2026-04-24 17:19:28 +0800 CST
view 422
2026年4月24日DeepSeek发布V4预览版,总参1.6T/284B,激活49B/13B,100万Token上下文,DSA稀疏注意力,兼容OpenAI+Anthropic双协议,昇腾与寒武纪Day 0适配,深度解析其架构与API用法。
DeepSeek
V4
MoE
大模型
开源
LangBot:大模型原生IM机器人平台,一套接入QQ/企微/飞书,支持工具调用
编程
LangBot:大模型原生IM机器人平台,一套接入QQ/企微/飞书,支持工具调用
2026-04-16 17:09:50 +0800 CST
view 413
LangBot是开源的大模型原生IM机器人平台,26.3K Star,支持QQ/企微/飞书多平台接入,一次开发多端运行,支持工具调用和多轮对话,适合运营和客服场景。
AI
机器人
聊天机器人
IM
开源
大模型
多平台
DeepSeek-V4 深度解析:百万Token上下文与MoE架构的技术革命
编程
DeepSeek-V4 深度解析:百万Token上下文与MoE架构的技术革命
2026-04-26 08:10:21 +0800 CST
view 452
深度解析DeepSeek-V4的技术突破:百万Token原生上下文、万亿级MoE架构、国产芯片适配。从技术原理到工程实践,全面剖析这场开源AI的革命。
DeepSeek
大模型
MoE
百万上下文
开源AI
ds4 (DwarfStar) 深度实战:当 Redis 之父学会「大模型量化」——从非对称 2-bit 量化到磁盘 KV 缓存的生产级完全指南(2026)
编程
ds4 (DwarfStar) 深度实战:当 Redis 之父学会「大模型量化」——从非对称 2-bit 量化到磁盘 KV 缓存的生产级完全指南(2026)
2026-06-15 00:18:14 +0800 CST
view 47
深度剖析 Redis 之父 antirez 的最新项目 ds4 (DwarfStar),专为 DeepSeek V4 Flash 设计的本地推理引擎。涵盖非对称 2-bit 量化、磁盘 KV 缓存、Metal/CUDA 优化、内置 Coding Agent 等核心技术。
ds4
DwarfStar
antirez
Redis
大模型推理
MoE架构
量化
国产AI编程的"越级时刻":Qwen3.6-Plus凭什么硬刚Claude?
编程
国产AI编程的"越级时刻":Qwen3.6-Plus凭什么硬刚Claude?
2026-04-08 11:03:41 +0800 CST
view 552
阿里Qwen3.6-Plus发布,编程能力直逼Claude Opus 4.5,调用成本仅五分之一。深度解析国产AI模型的越级突破。
AI编程
大模型
国产AI
Qwen
Claude
Google I/O 2026 深度解析:Gemini 3.5 Flash 横空出世,Agent 时代的计算范式革命
编程
Google I/O 2026 深度解析:Gemini 3.5 Flash 横空出世,Agent 时代的计算范式革命
2026-05-21 18:57:35 +0800 CST
view 640
2026年5月Google I/O大会发布Gemini 3.5 Flash,输出速度289 token/s达竞品4倍,免费开放,标志AI从被动应答进入Agent自主执行新时代。本文从技术架构、性能基准、工程实践三维度深度解析。
Google I/O 2026
Gemini 3.5 Flash
Agent
AI
大模型
多模态
Ollama + OpenClaw + Claude Code:本地大模型驱动的自动化编程工作流深度解析
编程
Ollama + OpenClaw + Claude Code:本地大模型驱动的自动化编程工作流深度解析
2026-04-17 13:15:36 +0800 CST
view 620
深度解析如何将 Ollama、OpenClaw 和 Claude Code 组合成强大的本地化 AI 编程工作流
Ollama
OpenClaw
Claude Code
AI编程
本地大模型
llm-d进入CNCF:Kubernetes正式迈入AI原生时代
编程
llm-d进入CNCF:Kubernetes正式迈入AI原生时代
2026-04-08 12:29:41 +0800 CST
view 445
IBM、红帽、谷歌联合向CNCF捐赠llm-d项目,标志着Kubernetes正式迈入AI原生时代。本文深度解析llm-d架构设计、性能数据及实践建议。
Kubernetes
云原生
AI
大模型
llm-d
CNCF
小米MiMo-V2.5-Pro-UltraSpeed深度实战:当万亿参数模型突破1000 Tokens/s——从全链路优化到生产级推理加速的完全指南(2026)
编程
小米MiMo-V2.5-Pro-UltraSpeed深度实战:当万亿参数模型突破1000 Tokens/s——从全链路优化到生产级推理加速的完全指南(2026)
2026-06-09 13:18:45 +0800 CST
view 445
深度解析小米MiMo-V2.5-Pro-UltraSpeed如何在通用GPU上实现1000 Tokens/s的推理速度,包括FP4量化、DFlash解码引擎、TileRT执行系统等核心技术。
AI
推理加速
大模型
小米
GPU优化
Linux 内核二把手的断网猎手:Greg KH 的离线 AI 漏洞检测革命
编程
Linux 内核二把手的断网猎手:Greg KH 的离线 AI 漏洞检测革命
2026-05-30 16:14:24 +0800 CST
view 184
Linux 内核二把手 Greg KH 开发离线 AI 漏洞检测工具 gregkh_clanker_t1000,使用 AMD 锐龙 AI Max 在断网环境下运行大模型辅助内核补丁审查,已协助合并近 20 个补丁。
Linux
AI安全
模糊测试
AMD锐龙
GregKH
离线大模型
内核漏洞
统一内存
安全审计
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
4
5
...
13
下一页