标签:模型压缩

270亿参数模型压缩到5.9GB:PrismML Bonsai 2把大模型塞进手机,性能保留98%

270亿参数模型压缩到5.9GB:PrismML Bonsai 2把大模型塞进手机,性能保留98%

大模型越做越大,普通设备真的跑不动吗?PrismML 给出了一个不一样的答案:9月18日,该公司宣布其压缩模型 Bonsai 2 能把阿里 Qwen3.8 的 270 亿参数(27B)模型,压缩到只有 5.9GB ——体积缩到约九分之一,却能保留 98.2% 的原始水平。 参数越多越好? 先说个背景:AI 模型的“参数”可以理解为它的“脑细胞”数量。270 亿参数的模型能力很强,但通常需要服务器或