美国参议院提交《安全人工智能法案》旨在建立违规行为数据库

参议院近日提交了一项新法案，旨在通过强制创建记录所有人工智能系统违规行为的数据库来跟踪安全问题。该法案由参议员马克·华纳（D-VA）和汤姆·蒂利斯(Thom Tillis)(北卡罗来纳州)提出，名为《安全人工智能法案》。

根据该法案，将在国家安全局建立人工智能安全中心，领导“反人工智能”研究并制定防止反人工智能措施的指南。

此外，法案要求美国国家标准与技术研究院（NIST）以及网络安全和基础设施安全局创建人工智能违规数据库，包括“未遂事件”。华纳和蒂利斯重点关注对抗人工智能的技术，将其分类为数据中毒、逃避攻击、基于隐私的攻击和滥用攻击。

人工智能安全已成为拜登政府人工智能行政命令中的关键项目之一，指示NIST制定“红队”指导方针，并要求人工智能开发人员提交安全报告。为确保人工智能模型的安全性，开发人员应进行广泛的红队测试。一些公司如微软已经创建了工具来帮助为人工智能项目添加安全护栏。

《安全人工智能法案》目前需通过一个委员会审议后，方可提交至更大的参议院审议。