程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
colibri 相关技术文章
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
colibri:2400 行 C 代码实现的超大模型本地推理引擎,12700 Star
编程
colibri:2400 行 C 代码实现的超大模型本地推理引擎,12700 Star
2026-09-05 19:04:00
介绍 colibri 这个零依赖的 C 语言推理引擎:通过将模型拆分为常驻内存的密集部分和磁盘按需加载的专家部分,实现 25GB 内存运行 7440 亿参数的 GLM 5.2 模型,支持 MLA 注意力压缩、MTP 推测解码和 OpenAI 兼容 API,GitHub 已获 12700 Star。
colibri
大模型推理
本地部署
MoE
GLM
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
python
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调