PrismML发布Bonsai 27B，270亿参数AI模型首次适配iPhone

AI 摘要

一句话摘要: PrismML发布Bonsai 27B，270亿参数AI模型首次压缩至3.9GB可在iPhone本地运行。 关键事实: 模型压缩至3.9GB，iPhone 17 Pro Max上每秒11个token，三进制变体达全精度94.6%性能，Apache 2.0免费发布，基于加州理工IP，二进制变体小14倍 涉及主体: PrismML, 苹果, Babak Hassibi, 加州理工学院, Decrypt, PANews 可能影响: 推动端侧大模型商业化落地，加速苹果等手机厂商与AI压缩技术公司合作，可能改变AI推理成本结构，利好隐私保护场景 是否值得继续跟踪: 是，苹果谈判及Gemma压缩进展将决定端侧AI生态格局，技术路线若成熟将颠覆云端依赖 噪音/炒作风险: 中，模型性能与压缩率数据亮眼，但实际用户体验和苹果合作尚未落地，存在预期炒作空间