5太危险

要点:OpenAI宣布董事会有权否决决定，特别是对于GPT-5等前沿模型的安全风险，公司成立安全顾问团队，定期向管理层和董事会报告。公司成立三个安全团队，分别应对当下、不久的将来和遥远的未来的AI风险，主要跟踪网络安全、CBRN风险、说服风险和模型自主性风险。OpenAI在技术开发上设立了限制，对不同种类的AI风险要求模型安全得分达标后才能进入下一个开发阶段，发布了“前沿风险防范框架”。