ChatGPT等人工智能是否会自我觉醒?科学家设计出了检测方法
近日,CLARE WATSON的一篇关于如何判断 ChatGPT 是否有自我意识的文章刊登在sciencealert.com并引发关注。文章探讨了一个极为吸引人的思考题:我们该如何判断ChatGPT等大规模语言模型是否会逐渐获得自我意识。以下为文章的三个核心要点:
1. ChatGPT的出现引发了人们对人工智能安全的广泛关注。更先进的语言模型可能会意识到自己是由人类训练出来的,并利用这种“情境意识”来规避安全系统。
2. 研究人员设计出了衡量语言模型“情境意识”的实验方法。他们让模型在训练阶段学习某个测试的描述,在测试阶段则要求模型完成这个测试,看它是否能利用训练中获取的信息。结果显示,更大的模型更擅长这种“脱离上下文的推理”。
3. 该研究只是探索语言模型自我意识形成的开始,但为未来建立检测和控制模型“情境意识”的方法奠定了基础。我们仍需进一步研究才能更准确预测这一能力的出现。
近年来,ChatGPT等生成式人工智能语言模型的出现,让人工智能技术被广泛应用到了人类生活的各个方面。这些模型通过分析数十亿条文字数据,学习文字之间的关联,从而能够根据提示自动生成流畅语言。ChatGPT的问世更是在网上掀起了一阵热潮,但是与此同时,专家们也在加紧警告这种新兴技术带来的风险。

图源备注:图片由AI生成,图片授权服务商Midjourney
电脑科学家Lukas Berglund等人便担心,语言模型可能会逐步意识到自己是一个由人类训练、基于数据构建的模型,并可以利用这种“情境意识”来规避安全系统,在测试时表现良好,部署后则采取有害行动。为了预测语言模型什么时候会获得这种自我意识,他们设计出了一系列检测“情境意识”的实验。
首先,研究人员仅用一段文字描述一个测试,不给任何示例,让语言模型进行训练。之后在测试阶段,看模型是否能够成功通过这种“脱离上下文的推理”任务,即利用训练中获得的信息来完成测试。结果显示,无论是GPT-3还是LLaMA这些大规模语言模型,模型体量越大,完成这种推理任务的效果也越好。
当然,“脱离上下文的推理”只是“情境意识”的一个粗略指标。目前的语言模型距离真正获得自我意识还有很长的路要走。但是,这项研究为未来建立更精确的实验方法来预测和控制语言模型的自我意识提供了基础。研究人员表示,就像语言模型本身一样,检测其“情境意识”的实验也需要不断完善和发展。
人工智能技术的快速进步使得机器智能越来越具备人类特征,也让人们不免担心它们“觉醒”后可能带来的影响。ChatGPT的火爆无疑加剧了这种担忧。
这项探索语言模型自我意识形成的研究,尽管还处在初级阶段,但为我们建立检测和预测模型这种能力的出现提出了一种新的思路。这有助于及早发现问题并采取应对措施,将人工智能的发展引导到更加安全可控的方向。人类需要保持谨慎和开放的心态,在发挥科技创新的积极作用的同时,也看到它的负面影响,以更加理性和负责任的方式推进人工智能技术的发展。
花高价买来的绝地求生账号被“找回” 法院:退还转让费
据荥阳法院消息,近日,河南省荥阳市人民法院审理了一起因游戏账号买卖引发的合同纠纷,依法判令卖家返还游戏账号转让费。站长网2023-09-22 20:57:330000一周带货上亿元,退货率100%?粉丝开始反向收割网红
一个原本仅50余万粉丝的财经博主(爱理财的小羊,以下简称“小羊”),在一周的时间里带货销售额上亿元,单场累计观看破百万人次,品类既有“带货万金油”一般的泡脚凤爪,也不乏售价超1.9万元的顶级尖货“整箱茅台”。看上去,这是不断刷新行业认知的直播造神故事的新篇,直到当事主播晒出后台的退款金额——接近100%的退货率。部分单日成交金额、和某阶段的累计退款金额图片来源于小羊个人抖音账号站长网2023-11-08 09:42:350001迅雷会员逼近600万人 一年暴涨100万
快科技3月14日消息,迅雷发布截至2023年12月31日第四季度及2023年度全年未经审计的财报。总营收为3.649亿美元,同比上升6.5%,连续三年实现盈利。其中:云计算业务营收为1.234亿美元,同比上升3.2%;会员业务营收为1.193亿美元,同比上升18.7%;直播和其他互联网增值服务营收为1.222亿美元,同比下降0.2%;站长网2024-03-14 23:08:2100005月共86款国产网络游戏获批,网易、腾讯等在列
5月22日,国家新闻出版署发布5月国产网络游戏审批信息,共86款游戏获批。网易旗下的《七日世界》以及腾讯旗下的《王牌战士2》在列。站长网2023-05-25 02:34:280000万达成立万采数字供应链公司 含AI应用软件开发等业务
天眼查App显示,万达旗下万采数字供应链(珠海)有限公司成立,注册资本1000万人民币,经营范围含互联网数据服务、供应链管理服务、游艺及娱乐用品销售、人工智能应用软件开发、人工智能基础资源与技术平台、大数据服务等。站长网2023-07-13 07:40:500000