library
JustVugg/colibri
能在消费级机器上跑超大模型,但文档稀少、上手门槛高,适合对模型本身有强烈需求的极客。
4.9综合
实用性5
上手速度4
完成度4
不可替代7
生命力4
5 维独立打分,综合分为加权平均。分数只对同一套标准内部可比。
适合谁
对想在本地实验超大语言模型、且不介意自行编译和配置的研究者或极客
不适合谁
对需要可靠、易用的生产环境或缺乏 C 编译经验的团队
项目自述
Run GLM-5.2 (744B MoE) on a 25GB-RAM consumer machine — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦
替代品
llama.cppggmltext-generation-webui