谷歌Deepmind表示开放式AI是实现超级智能的关键
划重点:
- 💡 AI 系统必须具备开放式的能力,以自主产生新知识和改进学习能力。
- 💡 当前基于静态数据训练的基础模型存在局限性,而开放式基础模型则可能成为实现领域通用开放式智能的重要组成部分。
- 💡 虽然存在安全风险,但开放式基础模型有望实现科学和技术领域的重大突破。
谷歌 Deepmind 的研究人员表示,AI 系统具备开放式的能力是发展超级智能的关键。他们认为,单纯依靠不断扩大的数据集并不足以实现超级人工智能(ASI),而现有的规模化策略往往集中在使用更多的计算资源和数据。相反,AI 系统必须能够以开放式的方式产生新知识,并自主改进其学习能力。
图源备注:图片由AI生成,图片授权服务商Midjourney
研究人员将 AI 系统定义为 “开放式” 的,如果它不断产生新的、难以预测的且具有学习意义的物件,即使观察者通过研究过去的物件已经变得更擅长于预测。AI 生成内容的开放性取决于观察者是否将生成的事物视为新的,并且能否从中学到东西。举例来说,对于老鼠来说,飞机是新的,但它无法理解背后的原理。对于航空航天工程学生来说,飞机的设计是新的且具有学习意义,这使得系统在这种情况下是开放的。一个具有广泛航空知识的外星人可能并不觉得这些设计是新的,但它可以分析和理解它们。
研究人员举例说明了一些开放系统及其局限性。AlphaGo 能不断制定新的策略来击败学习中的人类,但仅限于人类设定的规则内。尽管这样的系统是开放的,但它太狭窄,无法发现新的科学或技术。另一个例子是 “AdA” 代理,它在一个具有数十亿种可能变化的3D 世界中解决任务。通过训练,AdA 逐渐获得了在越来越复杂和陌生的环境中的技能。
然而,这种开放性在环境设置的限制下存在局限性:POET 系统训练与不断发展的环境相连接的代理。通过在环境之间进行切换,代理最终解决了通过直接优化无法解决的非常复杂的任务。然而,这种开放性受环境设置的限制:在某个时刻,POET,就像 AdA 一样,达到了一个极限。
与之相反的是,当前的基础模型,如大型语言模型,不是 “开放式” 的,因为它们是在静态数据集上训练的;它们最终会停止产生新的物件。根据论文,它们将 “很快达到瓶颈”。然而,如果它们不断得到新数据并与开放式方法(如强化学习、自我改进、自动生成任务和进化算法)结合,它们可能会引领开放系统的道路。
研究人员还警告存在重大的安全风险。所产生的物件必须始终能够为人类所理解和控制。必须从一开始就将安全性内置到开放式系统的设计中,以防止超级智能 AI 失控。但是,如果这些挑战能够被克服,研究人员相信开放式基础模型可能会实现科学和技术领域的重大突破。
Deepmind 联合创始人 Demis Hassabis 在一年前暗示谷歌 Deepmind 正在测试将 AlphaGo 等系统的优势与大型模型的知识相结合。然而,迄今为止谷歌发布的 Gemini 模型尚未提供如此突破性的创新,而且它几乎无法与 OpenAI 的 GPT-4相媲美。OpenAI 的 Q * 模型也可能旨在结合类似于谷歌 Deepmind 的 AlphaZero 与语言模型的想法,类似于微软研究人员最近展示的 “Everything of Thought”。
同方知网推出CNKI AI学术研究助手
同方知网宣布推出CNKIAI学术研究助手,可以简化学术研究的检索和研究流程。用户可以通过自然语言提问,快速获取答案,并可以连续追问。站长网2023-08-30 17:36:080001腾讯QQ群恢复功能今日正式下线
今天,腾讯元老级功能“QQ群恢复”已正式下线。据悉,今年9月,腾讯QQ群团队发布公告,宣布了上述消息。当时,公告指出,由于业务调整,这个恢复功能将在2023年10月13日取消,届时所有涉及到QQ群相关的恢复功能都将无法使用。QQ群团队建议用户在解散群、转让群、删除群成员等操作时务必慎重考虑,因为一旦操作完成,将无法再恢复。站长网2023-10-13 14:09:230000VampNet:一种用于音乐合成、压缩、修复等AI音乐生成方法
由于离散声学标记建模的发展,最近在语音和音乐的自回归创建方面取得了重大改进。研究人员开发了一种名为VampNet的音乐生成方法,它利用了声学token建模和并行迭代解码的技术。据称,VampNet可以用于音乐合成、压缩、填充和变体等多个应用领域。站长网2023-07-18 19:02:070000这届惜命的年轻人,想把医院“搬”回家
大众健康管理意识不断强化,以往的“被动治疗”观念正在逐步转变为“主动健康”,形成了预防为主、防治结合的健康管理理念。诊疗场景从医院延伸到家庭,“诊疗家庭化”的发展势头旺盛。诊疗家庭化,首先是场景的革命。相比传统的医院、诊所场景,家庭成为用户治疗、康复、护理、调养的微型诊疗单元。站长网2023-06-10 03:09:500000特斯拉中国ModelS/X现车再降价 最高可享 7 万元优惠
特斯拉中国再次降低ModelS/X现车价格,全系现车可享受54,000元至70,000元不等的价格优惠。现在购买ModelS的起售价为75.49万元,原起售价为80.89万元;现在购买ModelX的起售价为83.69万元,原起售价为89.89万元。此外,购车者还可以享受3年/6年免费超充、引荐奖励和FSD限时转移等权益。站长网2023-08-16 13:50:460000