AI哨所|著名“AI教父”从谷歌离职:我为发展AI而后悔
凤凰网科技讯 《AI哨所》北京时间5月2日消息,有“AI教父”之称的杰弗里辛顿(Geoffrey Hinton)周一宣布,他已经从谷歌公司离职。半个世纪以来,辛顿一直在培养ChatGPT等聊天机器人背后的核心技术。但是现在,他担心AI会造成严重危害。
凤凰网科技《AI哨所》了解到,辛顿是AI先锋。2012年,辛顿博士和他在多伦多大学所带的两名研究生开发的技术,成为了AI系统的知识基础。如今,科技行业的巨头们认为,AI系统是它们未来发展的关键。
为发展AI而后悔
然而就在周一,他正式加入了越来越多的AI批评人士的行列。他们认为,这些公司积极开发基于生成式AI的产品,ChatGPT等热门聊天机器人等被快速研发,这是在奔向危险。
辛顿说,他已经辞去了谷歌的工作,以便自己可以自由地谈论AI的风险。他已经在谷歌工作了十多年,成为该领域最受尊敬的人物之一。辛顿表示,他现在对自己一生从事的工作感到有些后悔。
“我用平常的借口来安慰自己:就算我没做,别人也会做的。”上周,辛顿在多伦多家中的餐厅接受了长篇采访时称。那里距离他和学生取得AI突破的地方只有几步之遥。
辛顿从AI开拓者到末日预言者的转变,标志着科技行业在这个几十年来也许最重要的拐点上经历了一个非凡时刻。业界领袖认为,新的AI系统可能与20世纪90年代初推出的网络浏览器一样重要,并可能引发从药物研究到教育等领域的突破。
但是,令许多业内人士苦恼的是,他们担心自己正在向野外释放一些危险东西。生成式AI已经可以成为制造虚假信息的工具。很快,它可能会对就业构成威胁。科技行业最大的担忧者表示,在未来的某个时候,它可能会对人类构成威胁。
辛顿对此表示,“很难想象你能如何阻止坏人利用它做坏事”。
自从OpenAI在3月份发布了最新版ChatGPT-4模型后,包括马斯克在内的上千名科技领袖和高管签署联名信,呼吁暂停开发比ChatGPT-4更先进模型6个月时间,因为AI“对社会和人类构成了深刻风险”。几天后,有40年历史的学术组织人工智能促进协会的19位现任和前任领导人发表了他们自己的公开信,警告AI的风险。该组织包括微软首席科学官埃里克霍维茨(Eric Horvitz)。微软已将OpenAI的技术应用于一系列产品,包括必应搜索引擎。
辛顿没有在这两封信上签名。他说,在辞职之前,他不想公开批评谷歌或其他公司。上个月,他通知公司他将辞职。周四,他与谷歌母公司Alphabet CEO桑达尔皮查伊(Sundar Pichai)通了电话。他拒绝公开讨论与皮查伊谈话的细节。
谷歌首席科学家杰夫迪恩(Jeff Dean)在一份声明中表示:“我们仍然致力于对AI采取负责任的态度。我们在不断学习了解新出现的风险的同时,也在大胆创新。”
AI危险更快到来
辛顿认为,随着企业改进AI系统,它们会变得越来越危险。“看看五年前和现在的情况,”他在谈到AI技术时说,“接受差异并将其传播出去。太可怕了。”
他表示,直到去年,谷歌一直是这项技术的“适当管理者”,小心翼翼地不释放可能造成伤害的东西。但是现在,微软用聊天机器人增强了必应搜索引擎,挑战谷歌的核心业务,导致谷歌也在竞相部署同样的技术。辛顿说,科技巨头陷入了一场可能无法阻止的竞争。
他目前最担心的是,互联网将充斥着虚假照片、视频和文字,普通人将“无法再知道什么是真的”。他还担心AI技术最终会颠覆就业市场。如今,像ChatGPT这样的聊天机器人往往是对人类工作者的补充,但它们也可能取代律师助理、个人助理、翻译和其他处理机械化任务的人。“它省去了繁重的工作,但它带走的可能不止这些。”辛顿称。
未来,他担心未来版本的AI技术会对人类构成威胁,因为它们经常从分析的大量数据中学习意想不到的行为。他说,这成了一个问题,因为个人和公司不仅允许AI系统生成自己的计算机代码,还允许它们自己运行这些代码。他担心有一天真正的自主化武器——那些杀人机器人——会成为现实。
“一些人相信,这种东西实际上会变得比人更聪明,”他表示,“但大多数人认为这还很遥远。 我也曾认为这还很遥远。我认为这需要30到50年甚至更长的时间。显然,我现在不再这么想了。”
辛顿说,当人们过去问他如何能研究有潜在危险的技术时,他会转述美国“原子弹之父”罗伯特奥本海默(Robert Oppenheimer)的话:“当你看到某种从技术上感觉不错的东西时,你就会去做。”凤凰网科技《AI哨所》对此将持续关注。
比尔盖茨支持的「突破能源」基金投资 AI 技术采矿公司 KoBold
站长之家(ChinaZ.com)6月21日消息:KoBoldMetals是一家总部位于伯克利的采矿公司,利用人工智能开采稀土元素,最近完成了一轮融资,估值达到10亿美元,成为了一家人工智能领域的「独角兽」公司,并吸引了一些全球最大的投资者。站长网2023-06-21 16:47:490001日本推出知识产权推进计划 将探讨生成式 AI 必要管理的措施
日本政府周五在知识产权战略总部会议上推出了他们的知识产权推进计划,以解决生成式人工智能(AI)所产生的文章和图像等知识产权问题。具体内容包括如何不侵犯著作权,以及何时可以将AI生成物视为「著作」。日本首相岸田文雄表示,为了保护知识产权同时也能发挥AI技术的作用,「将探讨必要的措施」。站长网2023-06-11 22:41:490000拼多多今日正式启动双11大促 部分商品满300减50、满200减30
拼多多于10月20日正式启动了今年的11.11大促活动。在这次活动中,拼多多为消费者提供了“每满300减50、每满200减30”的双档消费福利。此外,拼多多还推出了百亿补贴活动,参与该活动的商品将额外发放官方补贴,投入不设上限。拼多多百亿补贴活动还将联合手机、家电、美妆、服饰、快消等领域超100多个国内外头部品牌上线“百亿大牌日”。首批参加单件立减活动的品牌商品已经超过20000款。站长网2023-10-20 15:56:110000OpenAI与德国媒体巨头Axel Springer合作 ChatGPT回答可使用其新闻内容
**划重点:**1.🌐OpenAI与德国媒体巨头AxelSpringer合作,将向ChatGPT用户提供AxelSpringer媒体品牌的全球新闻摘要。2.💰AxelSpringer将收到OpenAI支付的费用,使其新闻内容可以在ChatGPT的回答中使用。3.📰这一合作旨在通过AI增强新闻,提高质量、社会关联性,并推动新闻业务模式发展。站长网2023-12-14 11:01:060000可口可乐旗下体育饮料品牌BodyArmor在超级碗广告中使用AI生成的图像
**划重点:**-🤖**AI生成视觉:**可口可乐旗下体育饮料品牌BodyArmor在其区域性超级碗广告系列“FieldofFake”中使用了AI生成的图像。-🚫**文化评论:**该广告以负面的AI生成内容与真实画面形成对比,更注重对文化的评论,而非将生成式AI用于广告制作。站长网2024-02-06 15:57:080000