model
Bonsai 27B WebGPU Kernels
在浏览器中本地运行27B模型虽新颖,但受限于WebGPU兼容性和量化精度,适合实验性项目。
6.6综合
实用性7
上手速度7
完成度6
不可替代8
生命力5
5 维独立打分,综合分为加权平均。分数只对同一套标准内部可比。
适合谁
对隐私敏感、想在本地离线运行LLM的开发者和研究者。
不适合谁
需要高精度、生产级性能或跨平台一致性的企业级应用。
项目自述
Run a 1-bit 27B LLM locally in your browser on WebGPU
替代品
llama.cppWebLLMTensorFlow.jsONNX Runtime Web