欧洲领先的人工智能规则面临生死攸关时刻

划重点:

1. 欧盟人工智能规则成为全球焦点，最后关头面临关键时刻。

2. 聚焦于对通用人工智能服务的监管，引发大型科技公司与欧洲立法者之间的激烈争论。

3. 法国、德国和意大利主张自我监管，与美国等国家形成全球监管竞赛。

欧洲人工智能规则被誉为全球首个全面规范人工智能的法规，如今正面临着生死攸关的时刻。提议于2019年的欧盟人工智能法案旨在成为全球人工智能监管的领军者，为科技行业制定规则。然而，规定通用人工智能服务监管的具体细节却在最后关头引发了激烈的争论。

大型科技公司，如OpenAI的ChatGPT和Google的Bard chatbot等，反对他们认为会扼杀创新的过度监管，而欧洲立法者则要求加强对这些公司开发的尖端人工智能系统的保护措施。在全球范围内，包括美国、英国、中国和七国集团等全球联盟都纷纷加入竞相制定人工智能监管准则的浪潮，强调了研究人员和权益团体对生成式人工智能对人类存在的潜在威胁以及对日常生活的风险的警告。

一些技术政策分析师指出，欧盟人工智能法案在即将到来的欧洲议会选举前可能难以达成一致，使其成为全球人工智能法规的“黄金标准”的机会有所减小。在即将进行的最后一轮谈判中，官员们希望能够敲定尚未解决的众多问题，但即便工作到深夜，他们可能不得不争分夺秒，争取在新的一年完成法规。

图源备注:图片由AI生成，图片授权服务商Midjourney

欧洲委员会在2021年发布的初稿中，几乎没有提及像聊天机器人这样的通用人工智能系统。法案的初衷是将人工智能系统按照风险分为四个等级，从最小到不可接受，本质上是产品安全立法。然而，生成式人工智能的迅猛发展改变了这一格局，引发了对这一技术可能被用于发动大规模网络攻击或创建新的生物武器的担忧。

这些风险促使欧盟立法者通过扩展法案的适用范围，将其延伸到基础模型，也称为大型语言模型。这些系统是通过从互联网上搜集的大量文字和图像进行训练的。基础模型赋予ChatGPT等生成式人工智能系统创造新事物的能力，与传统人工智能不同，后者使用预定规则处理数据并完成任务。

在上个月，由微软支持的OpenAI出现混乱，该公司建立了最著名的基础模型之一，GPT-4，为一些欧洲领导人强调了允许少数主导人工智能公司自我监管的风险。尽管CEO Sam Altman被解雇并迅速重新雇佣，但一些对人工智能安全风险深感担忧的董事会成员离开，表明人工智能公司治理可能受制于董事会动态。

抵抗对这些人工智能系统实施政府规定的声音出现在一个意想不到的地方:法国、德国和意大利。欧盟三大经济体通过提倡自我监管的立场文件进行了反击。这一变化被视为一种助力本土生成式人工智能公司，如法国初创公司Mistral AI和德国的Aleph Alpha。

一群有影响力的计算机科学家发表了一封公开信，警告称以这种方式削弱人工智能法案将是“历史性的失败”。与此同时，Mistral公司的高管们在网上与一位来自埃隆·马斯克支持的非营利组织的研究员发生争吵，该组织致力于防止人工智能对人类构成“存在风险”。

Google的首席法务官Kent Walker在上周的布鲁塞尔演讲中表示:“人工智能太重要，不能不加以规范，而且规范必须得当。”他说:“竞赛应该是为了最好的人工智能法规，而不是最早的人工智能法规。”

对于欧盟谈判代表而言，基础模型，用于各种任务，是最棘手的问题之一，因为对它们进行监管“违背了整个法律的逻辑”，这一法律是基于特定用途的风险的。数字权利非营利组织Center for Democracy and Technology的欧洲办事处主任Iverna McGowan表示，通用人工智能系统的性质意味着“你不知道它们是如何应用的”，同时，如果其他公司使用这些系统构建服务，就需要规定，否则“在食物链下游就没有责任追究”。

Altman提出了一个美国或全球机构，该机构将对最强大的人工智能系统进行许可。他今年提出，如果OpenAI无法遵守欧盟规定，可能会离开欧洲，但很快收回了这些评论。Aleph Alpha表示需要“一种平衡的方法”，并支持欧盟的风险为基础的方法。但是，对于基础模型来说，这并不适用，这需要“更灵活和动态”的规定，这家德国人工智能公司表示。

欧盟谈判代表仍然需要解决一些其他有争议的问题，包括完全禁止实时公共面部识别的提案。一些国家希望豁免以便执法部门可以使用它来寻找失踪的儿童或恐怖分子，但权利团体担心这将实际上为监视创造一个法律基础。

欧盟的三个政府部门将在周三迎来他们达成协议的最后机会之一。即使他们达成协议，欧盟的705名议员仍须批准最终版本。这一投票需要在4月份之前进行，以便在6月份开始欧洲范围的选举活动之前生效。如果他们无法及时完成，立法将被推迟到明年后期，届时可能会有对人工智能的不同看法的新欧盟领导层上任。

在上周的一场小组讨论中，共同主导欧洲议会人工智能法案谈判的罗马尼亚议员Dragos Tudorache表示:“确实是最后一次的可能性很大，但同样有可能我们仍然需要更多时间来进行谈判。”