标签:端侧AI

270亿参数模型压缩到5.9GB:PrismML Bonsai 2把大模型塞进手机,性能保留98%

270亿参数模型压缩到5.9GB:PrismML Bonsai 2把大模型塞进手机,性能保留98%

大模型越做越大,普通设备真的跑不动吗?PrismML 给出了一个不一样的答案:9月18日,该公司宣布其压缩模型 Bonsai 2 能把阿里 Qwen3.8 的 270 亿参数(27B)模型,压缩到只有 5.9GB ——体积缩到约九分之一,却能保留 98.2% 的原始水平。 参数越多越好? 先说个背景:AI 模型的“参数”可以理解为它的“脑细胞”数量。270 亿参数的模型能力很强,但通常需要服务器或

Meta发布个人AI智能体Muse:住进云端的私人助理,24小时替你办事

Meta发布个人AI智能体Muse:住进云端的私人助理,24小时替你办事

9月8日,Meta正式推出其首款个人AI智能体Muse,率先在美国上线。它和人们熟悉的聊天机器人完全不同:不只是回答问题,而是“真的替你干活”——发邮件、订机票、网购、填表、卖车,甚至帮你在电话账单上砍价。 一个“住进云端”的私人助理 Muse由Meta Superintelligence Labs开发,底层使用最新的Muse Spark系列模型。用户不需要懂技术:说出目标,Muse会自动拆解任务

vivo官宣端侧30B大模型路线:手机上跑大模型,不再依赖云端

vivo官宣端侧30B大模型路线:手机上跑大模型,不再依赖云端

去年行业还普遍认为7B参数模型在手机上稳定运行已经接近硬件极限,而vivo在9月16日的开发者大会上直接“掀桌子”:公布蓝心30B MoE端侧大模型已进入深度预研阶段,目标是在2028年底让30B级大模型在普通旗舰手机上实现全本地运行,全程无需云端介入。 MoE稀疏架构:让“大”模型“小”运行 MoE(混合专家)架构是这次突破的关键。传统大模型运行时要把全部参数加载进内存,而MoE模型只需按需激活