美国、英国和其他十几个国家签署协议,确保人工智能 「设计安全」
美国、英国及其他十几个个国家于周日联合发布了一份 20 页的文件,标志着首个详细的国际协议在如何保护人工智能(AI)免受恶意行为者滥用方面达成一致。美国一高级官员描述此协议为确保公司创建的 AI 系统从设计开始就是安全的重要步骤。
![](https://i.zz5.net/images/article/2023/11/27/092029462.jpg)
这份非约束性协议主要包含一些普遍建议,如监控 AI 系统以防滥用、保护数据免受篡改,以及审查软件供应商。尽管如此,美国网络安全和基础设施安全局局长 Jen Easterly 强调,如此多国家对 AI 系统安全优先的观念表示支持十分重要。
Easterly 在接受路透社采访时表示:「这是我们首次看到对这些能力的肯定不仅仅是关于酷炫功能,以及我们如何快速推向市场或竞争以降低成本,而是一个认同,认为设计阶段最重要的事情是安全。」
此协议是全球政府试图影响 AI 发展的一系列举措中的最新一项。这些举措虽大多没有实际执行力,但 AI 在工业和社会中的影响越来越大。
除了美国和英国,签署新指导原则的国家还包括德国、意大利、捷克共和国、爱沙尼亚、波兰、澳大利亚、智利、以色列、尼日利亚和新加坡等。
该框架处理了如何防止 AI 技术被黑客劫持的问题,并包括建议,如仅在适当的安全测试后发布模型。
该协议并未处理围绕 AI 适当使用的复杂问题,以及这些模型所依赖的数据是如何收集的。
AI 的兴起引发了一系列担忧,包括它可能被用来破坏民主进程、加剧欺诈或导致大规模失业等危害。
在 AI 监管方面,欧洲领先于美国,欧洲立法者正在起草 AI 规则。法国、德国和意大利最近也达成了关于如何监管人工智能的协议,支持对所谓的 AI 基础模型实施「通过行为准则的强制性自我监管」。
拜登政府一直在向立法者施压以监管 AI,但在通过有效监管方面,两极分化的美国国会进展甚微。
白宫在 10 月发布了一项新的行政命令,旨在降低 AI 对消费者、工人和少数群体的风险,同时加强国家安全。
SEC 将考虑对券商制定新的人工智能规则 旨在解决利益冲突问题
站长之家(ChinaZ.com)6月14日消息:华尔街的主要监管机构正计划为使用人工智能与客户互动的券商引入新规定。美国证券交易委员会(SEC)周二表示,旨在控制与这项技术相关的利益冲突的计划可能最早于十月份推出。该提案还将适用于预测数据分析和机器学习。站长网2023-06-15 07:10:220000微软Azure宣布集成了英伟达针对AI应用程序的加速计算技术
微软Azure宣布了其与英伟达的加速计算技术的集成,为生成式AI应用的训练和部署带来了进步。通过将AzureNDH100v5虚拟机(VM)与英伟达H100TensorCoreGPU和Quantum-2InfiniBand网络集成,用户可以轻松地扩展他们的生成式AI和高性能计算应用。站长网2023-08-10 10:19:110000人工智能初创公司 SambaNova 推出专为更高质量 AI 设计的新芯片:可运行比 OpenAI 的 ChatGPT 高级版大两倍以上的模型
站长之家(ChinaZ.com)9月20日消息:人工智能芯片初创公司SambaNovaSystems在周二推出了一款新的半导体芯片,旨在让其客户以更低的总成本使用更高质量的人工智能模型。这家位于加利福尼亚州帕洛阿尔托的公司表示,SN40L芯片旨在运行比OpenAI的ChatGPT高级版使用的大两倍以上的模型。站长网2023-09-20 09:33:500000工联院大模型测评:文心一言在工业领域表现超过GPT3.5
近期,中国工业互联网研究院针对人工智能大模型在中文工业领域的知识问答能力进行系统性评测。结果显示,百度文心一言表现超过GPT3.5,综合评价指数在国内排名第一。工联院本次评测选取了工业领域典型的八大行业。百度文心一言在电子设备、装备、钢铁、采矿、电力、石化、建材等七大行业均获国内第一。站长网2023-06-29 19:26:300000苹果禁止iOS 17.3.1降级 对已升级用户无影响
苹果公司近日发布公告,宣布停止签署iOS17.3.1更新,并禁止已经升级的用户再次降级。据了解,苹果公司在2月9日发布了iOS17.3.1更新,这次的更新幅度相对较小。官方日志显示,该版本主要修复了iPhone上输入文本时可能出现意外复制或重叠的问题。0000