多位头部AI公司高管最担心模型被滥用于新型致命病原体

AI 摘要

一句话摘要: 头部AI高管担忧模型被滥用于制造致命病原体，研究显示2030年前灾难风险概率12%。 关键事实: 272名研究者研究显示AI危险能力在2030年前导致超100万人死亡或逾1000亿美元损失的概率为12%，无缓解措施风险超20%，Sam Altman等联署公开信呼吁加强模型安全审查。 涉及主体: Sam Altman, Dario Amodei, Demis Hassabis, MIT FutureTech, 昆士兰大学, Axios 可能影响: 可能推动AI行业加强模型发布前的安全审查和防护措施，特别是针对开源模型，同时引发对生物安全领域的监管讨论。 是否值得继续跟踪: 是，因为涉及AI安全核心风险和头部企业动态，可能影响行业标准和政策制定。 噪音/炒作风险: 中，研究数据具体但风险概率较低，且高管表态可能被过度解读，但生物安全议题本身具有实质威胁。