OpenAI、谷歌等公司同意白宫列出的八项人工智能安全保证清单
站长网2023-07-25 16:18:430阅
美国白宫于7月21日发布的一份情况说明书正式披露,一些在美国运营的最大的生成式人工智能公司计划为其内容添加水印。亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI 就生成式人工智能的使用和监督(包括水印)达成了八项自愿承诺。

此前,白宫在三月份发表了一份声明,表达了对人工智能滥用的担忧。此外,自2022年11月ChatGPT将人工智能内容置于公众视野以来,监管机构正在制定管理生成式人工智能对技术以及人们与其互动方式的影响的程序。
白宫人工智能的八项安全承诺包括:
人工智能系统发布前的内部和外部安全测试。
在整个行业以及与政府、民间社会和学术界共享有关管理人工智能风险的信息。
投资网络安全和内部威胁防护措施,特别是保护模型权重,这会影响人工智能模型关联的偏见和概念。
鼓励第三方发现和报告其人工智能系统中的漏洞。
公开报告所有人工智能系统的功能、局限性以及适当和不适当使用的领域。
优先研究偏见和隐私。
帮助将人工智能用于癌症研究等有益目的。
开发强大的水印技术机制。
水印承诺涉及生成人工智能公司开发一种将文本、音频或视觉内容标记为机器生成的方法;它将适用于水印系统锁定后创建的任何公开可用的生成人工智能内容。由于水印系统尚未创建,因此判断内容是否由人工智能生成的标准方法将公开可用还需要一段时间。
此举是为了解决目前 AI 技术面临的一些重要问题,如偏见、不可靠性和潜在的危险性。通过这些保证,公司将能够更好地管理和控制 AI 系统的风险,确保其在使用过程中不会对人类造成伤害。这份清单的发布得到了业界的广泛关注和赞赏,被认为是 AI 安全领域的重要一步。
0000
评论列表
共(0)条相关推荐
亚马逊推出AI助手Amazon Q 企业可提问公司数据
亚马逊云计算业务AWS最近推出了一款名为AmazonQ的聊天工具,企业可以在其中就公司数据提出问题。AWS首席执行官亚当·塞利普斯基在AWSre:Invent大会的主题演讲上宣布了这一消息。站长网2023-11-29 11:04:220001在 Ilya Sutskever 宣布 Sam Altman 不会回归后,数十名员工离职 OpenAI
站长之家(ChinaZ.com)11月20日消息:据TheInformation消息,了解情况的人士称,数十名OpenAI员工在当地周日晚间宣布将离职公司,此举发生在董事会成员兼首席科学家IlyaSutskever告知员工被解雇的首席执行官SamAltman不会返回公司后。站长网2023-11-20 16:01:150000Meta 将推出第一代自研人工智能运算芯片 MTIA v1
Meta公司的AI工作负载无处不在,为诸多应用提供基础支持,如内容理解、动态信息流、生成式AI和广告排名等。得益于其与Python的无缝集成、急切模式编程和简明的API,PyTorch可以运行这些工作负载。其中,DLRMs对于提升Meta产品和服务的用户体验至关重要。硬件系统必须在模型的规模和复杂性不断增长的情况下,提供越来越多的内存和计算资源,同时保持效率。站长网2023-05-23 15:13:110000消息称索尼 PS5 游戏机在多地将迎来高 700元人民币的降价
据知名游戏博主BillBil-kun的推文透露,索尼PS5游戏机将在多个国家和地区迎来降价。根据他的推文,PS5的降价幅度约为400-700元人民币。BillBil-kun发布了两条推文,第一条推文中使用了几个Emoji表情,暗示PS5将在英国、美国和德国地区进行降价。而在第二条推文中,他透露了PS5的具体降价信息。站长网2023-07-24 15:26:370000马斯克豪掷40亿训Grok-3!红杉高盛大泼冷水,AI收支鸿沟或已达5000亿美元
【新智元导读】马斯克为Grok3要豪掷近40亿美元狂买10万张H100,GPT-6的训练则可能要耗资百亿。然而红杉和高盛近日都给行业泼了冷水:每年要挣6000亿美元才能支付的巨额硬件支出,换来的却只是OpenAI34亿美元的收入,绝大多数初创连1亿美元都达不到。而如果全世界的AI泡沫都被戳破,很可能就会导致新的经济危机。硅谷大厂的人工智能军备竞赛,还在加剧。站长网2024-07-08 10:29:100000