三位OpenAI掌舵人亲自撰文:我们应该如何治理超级智能?
【新智元导读】现在是开始思考如何治理超级智能的好时机——未来的AI系统将比通用人工智能(AGI)更强大。
AI,从来没有像今天这样,如此广泛地影响着人类的生活,以及给人类带来如此多的担忧和麻烦。
像所有以往其他重大技术革新一样,AI 的发展亦有两面,一面向善,一面向恶,这也是当前全球各国监管机构开始积极介入的重要原因之一。
无论如何,AI 技术的发展好似已经是大势所趋、势不可挡,如何让 AI 在符合人类价值观和伦理的前提下更加安全地开发和部署,是当前所有 AI 从业者都需要认真思考的问题。
今天,OpenAI 的三位联合创始人——CEO Sam Altman、总裁 Greg Brockman、首席科学家 Ilya Sutskever共同撰文探讨了如何治理超级智能(superintelligence)的问题。他们认为,现在是开始思考超级智能治理的好时机了--未来的人工智能系统甚至比AGI的能力还要大。
根据我们目前看到的情况,可以设想,在未来十年内,人工智能(AI)将在大多数领域达到超越人类专家的技能水平,并能开展与今天最大的公司之一一样多的生产活动。
无论是潜在的好处和坏处,超级智能将比人类过去不得不面对的其他技术更加强大。我们可以拥有一个不可思议般繁荣的未来;但我们必须管理好风险才能到达那里。考虑到存在风险(existential risk)的可能性,我们不能只是被动地应对。核能便是其中具有这种特性的技术的例子;另一个是合成生物学。
同样,我们必须减轻当前AI技术的风险,但超级智能将需要特殊的处理和协调。
一个起点
在我们成功引领这一发展的机会中,有许多重要的想法;在这里,我们对其中三个想法进行了初步思考。
首先,我们需要在领先的开发努力之间进行一些协调,从而确保超级智能的开发是以一种既能让我们保持安全又能帮助这些系统与社会顺利融合的方式进行。有许多方法可以实现这一点;世界上的主要政府可以共同建立一个项目,让许多当前的努力成为其中一部分,或者我们可以通过「集体同意」(有一个新组织的支持力量,如下面建议的那样)的方式,将前沿AI能力的增长限制在每年一定的速度。
当然,个别公司也应该以极高的标准被要求负责任地进行开发。
其次,我们最终可能需要类似于国际原子能机构(IAEA)的机构来监管超级智能的开发;任何超过一定能力(或计算等资源)门槛的努力都需要受到这一国际机构的监督,该机构可以检查系统、要求审计、测试是否符合安全标准、对部署程度和安全级别进行限制等。追踪计算和能源使用情况会有很大的帮助,并给我们一些希望,这个想法实际上是可以实现的。作为第一步,公司可以自愿同意开始实施这样一个机构有朝一日可能要求的要素,而第二步,各个国家可以实施它。重要的是,这样一个机构应专注于减少「存在风险」,而不是应该留给各个国家的问题,如定义AI应该被允许说什么。
第三,我们需要有足够的技术能力来使超级智能安全。这是一个开放的研究问题,我们和其他人正在投入大量的精力。
不在讨论范围内的内容
我们认为,允许公司和开源项目在显著能力门槛以下开发模型是很重要的,而不需要我们在这里描述的那种监管(包括繁琐的机制,如许可证或审计)。
如今的系统将为世界创造巨大的价值,虽然它们确实存在风险,但这些风险水平似乎与其他互联网技术相当,而且社会的应对方式似乎是合适的。
相比之下,我们关注的系统将拥有超越迄今为止任何技术的力量,我们应该注意不要通过将类似的标准应用于远低于这个门槛的技术来淡化对它们的关注。
公共参与和潜力
但对,最强大的系统的治理,以及有关其部署的决定,必须有强大的公众监督。我们相信,世界各地的人们应该民主地决定AI系统的界限和默认值。我们还不知道如何设计这样一个机制,但我们计划做一些试验。我们依然认为,在这些广泛的界限内,个人用户应该对他们使用 AI 的行为方式有很大的控制权。
考虑到风险和困难,值得思考的是,我们为什么我们要构建这项技术。
在 OpenAI,我们有两个基本原因。首先,我们相信它将带来一个比我们今天所能想象的更好的世界(我们已经在教育、创造性工作和个人生产力等领域看到了这方面的早期例子)。世界面临着很多问题,我们需要更多的帮助来解决它们;这项技术可以改善我们的社会,而每个人使用这些新工具的创造力肯定会让我们感到惊讶。经济增长和生活质量的提高将是惊人的。
其次,我们相信,停止构建超级智能将是一个具有非直观风险且困难重重的决策。由于其巨大的优势,构建超级智能的成本每年都在降低,构建者的数量也在迅速增加,而且它本质上是我们所处技术路径的一部分,要停止它需要类似于全球监控制度的存在,而即使有这样的制度也不能保证成功。因此,我们必须做到正确无误。
参考资料:
https://openai.com/blog/governance-of-superintelligence
诺基亚宣布裁员16%:砍掉1.4万人
快科技10月19日消息,据国外媒体报道,诺基亚发布的三季度业绩报告显示,三季度净销售额为49.8亿欧元(约合384亿元人民币),低于之前的预估数额。其第三季度调整后营业利润为4.24亿欧元(约合32.7亿元人民币),低于预估的5.564亿欧元(约合43亿元人民币)。作为全球最大通信设备制造商之一,诺基亚目前面临着诸多挑战,包括全球经济增速放缓,以及手机运营商减少对基础设施的投资等等。站长网2023-10-19 21:37:580000本月发布!Redmi K70至尊版外观公布
RedmiK70至尊版即将在本月与大家见面,官方已经首次对外公布了这款手机的外观图像。新机在设计上延续了K70系列的风格,但在此基础上进行了显著的改进和创新。RedmiK70至尊版的背部设计采用了四曲等深玻璃后盖,提供了更加舒适的手感。手机的Deco部分横向延伸,与镜头模组的圆角矩形设计相呼应。站长网2024-07-11 09:45:260001李斌:蔚来自研芯片一颗顶英伟达四颗
快科技4月21日消息,据媒体报道,蔚来李斌近日表示,去年购买了很多的英伟达芯片,这耗费了公司不少钱,为此公司转向自研芯片,因为一颗芯片可以顶四颗,所以能降低成本。据资料显示,在2023蔚来日上,蔚来正式发布了首颗自研智能驾驶芯片神玑NX9031。蔚来李斌表示,蔚来的目标是用一颗自研芯片实现目前业界四颗旗舰智能驾驶芯片的性能,使得效率和成本更优。0000联发科董事长蔡明介:想象力、创造力与情感表达是 AI 无法取代的
据udn消息,进入AI时代,AI应用范围愈来愈广泛,联发科董事长蔡明介在为小学生写作集写序时指出,虽然AI工具已经可以帮助人们撰写履历、自传和回答编程问题等,但是拥有丰富想象力和创造力、能够清楚地理解和表达情感,并从中获得启示和智慧等能力是AI所无法取代的。站长网2023-07-18 16:35:020000入股、整合、价格战,量贩零食进入下半场
2023年,量贩零食成为最炙手可热的明星赛道之一。量贩零食行业发生多起融资,多起融资金额超过千万。一方面,量贩零食行业的行业竞争与整合加剧,赵一鸣零食与零食很忙合并,合并后门店总数突破6500家。行业规模位列量贩零食领域第一与第二的零食很忙集团与万辰集团的“商战”蔓延至社交平台,争夺加盟商,明面开战。站长网2024-02-18 15:52:230002