← 工具雷达
library

JustVugg/colibri

能在消费级机器上跑超大模型,但文档稀少、上手门槛高,适合对模型本身有强烈需求的极客。

4.9综合
实用性5
上手速度4
完成度4
不可替代7
生命力4

5 维独立打分,综合分为加权平均。分数只对同一套标准内部可比。

适合谁

对想在本地实验超大语言模型、且不介意自行编译和配置的研究者或极客

不适合谁

对需要可靠、易用的生产环境或缺乏 C 编译经验的团队

项目自述

Run GLM-5.2 (744B MoE) on a 25GB-RAM consumer machine — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦

替代品

llama.cppggmltext-generation-webui
访问官网61 · 评测时 Stars评测于 2026-07-19

同类工具