AI专家称应在公司董事会中包括公众成员以保护社会
🔍 **划重点:**
1. AI公司发展强大的人工智能系统时,应在董事会中纳入独立成员,代表“社会利益”。
2. 专家Yoshua Bengio表示,随着技术的迅速进步,AI公司需要公众成员监督,实现“民主治理”。
3. Bengio对OpenAI的管理层动荡表示关切,呼吁实现“适当的防护措施”,并关注人工智能安全和发展速度。
人工智能(AI)技术的现代奠基人之一,2018年图灵奖得主Yoshua Bengio教授表示,正在发展强大人工智能系统的公司应在其董事会中聘请独立成员,代表“社会的利益”。
Bengio在接受《卫报》采访时表示,随着技术的迅速发展,AI公司需要公众成员的监督,以实现“民主治理”,确保技术的进步不会对公众构成威胁,并防止滥用以扩大权力。
图源备注:图片由AI生成,图片授权服务商Midjourney
他关切地提到OpenAI(ChatGPT的开发者)管理层的变动,并指出“民主过程”对于监控人工智能领域的发展至关重要。在OpenAI首席执行官Sam Altman辞职并复职等管理层动荡之后,Bengio认为需要一种能够及时监测AI发展的方式。
Bengio曾于3月份与包括Elon Musk在内的数千名高科技界人士签署了一封公开信,呼吁暂停最强大AI系统的开发,对此,他表示担忧:“我担心的是…并不会有减速。将会在适当的防护措施缺失的情况下,迅速推进,更加侧重于与其他竞争者的比赛和赢得比赛,而不是保护公众和公共安全。”
除了OpenAI的管理层变动外,Bengio还表达了对于全球AI安全峰会上政府与AI公司之间达成的自愿协议的关切。他指出这一过程更有利于公司,因为它要求政府找出模型存在的问题,而不是由公司证明其技术是安全的。
Bengio强调,他更支持一种模式,即公司有责任向监管机构证明其系统是可信的,类似于制药公司对其产品进行临床研究的要求。他表示:“这不是政府进行临床研究,而是制药行业。然后,他们必须提供科学证据,如统计评估,证明‘有很高的概率该药物不会有毒性’。因此,政府审查该报告和过程后说,是的,你可以继续商业化。”
作为Bletchley峰会的与会者,Bengio被宣布为首次“AI科学现状”报告的主席,预计该报告将在明年五月的韩国人工智能峰会之前发布,他希望该报告每六个月发表一次,重点关注人工智能的安全性。
对于一个可能逃避人类控制的系统出现的时间表,Bengio给出的估计是5到20年。他强调,政府应该在这1%的可能性中保护公众免受潜在危险,同时对美国总统乔·拜登关于人工智能的行政命令表示欢迎,认为这是推动行业“更好监管”的“非常好的事情”。
Bengio对人工智能的治理提出了严肃的看法,强调了监管的必要性,以确保技术的发展符合社会利益并不会对公众构成潜在威胁。
iOS17.2为 iPhone15Pro 的操作按钮添加翻译功能
苹果最近发布了iOS17.2更新,为iPhone15Pro系列的操作按钮添加了新的翻译功能。这个功能允许用户将翻译任务分配给操作按钮。当按下操作按钮时,它将启动翻译应用程序的对话模式,无需离开当前应用程序。这极大地简化了在不同语言之间快速翻译短语或进行对话的过程。站长网2023-10-27 09:46:570000三大音乐出版商对开发 Claude 的 AI 公司 Anthropic 提起版权诉讼
站长之家(ChinaZ.com)10月19日消息:三大音乐出版商,环球音乐、Concord和ABKCO,根据Variety于周三获得的法律文件,对新成立的AI公司Anthropic提起了侵犯版权的投诉。这些法律问题源于Anthropic的一系列AI模型,被称为Claude,这是音乐行业为了抵御其认为来自AI开发者的巨大版权威胁而采取的最新举措。站长网2023-10-19 09:25:490000网易推出听障人士AI声音复原工具
据36氪消息,近日,网易集团、网易公益联合浙江省残疾人福利基金会发起“人生第一句”声音复原公益计划,利用网易互娱AILab的iSpeech技术打造首个AI复原听障人士原声的工具。听障人士仅需上传5分钟没有完整语义的发声片段,之后在产品中输入想要表达的文字,就可以用原本的声音说出来。目前该产品已向全国听障人士免费开放。站长网2023-07-21 15:17:270000OpenAI 首席执行官 Sam Altman:世界需要高效的人工智能模型 而市场将满足需求
OpenAI首席执行官SamAltman周二在他的世界巡回访问新加坡站上表示,全球对人工智能的需求很高,市场将会满足这一需求。Altman在新加坡管理大学对创业者、科技高管和公众表示:「我们的语言模型已经足够复杂,计算机也足够强大,我们可以让人工智能变得越来越强大。」他还说:「我们将使模型更加高效,生产更多的芯片。我认为这显然是世界所需的,市场将会满足需求。」站长网2023-06-15 10:10:390000印度科技巨头Wipro将投资10亿美元于人工智能领域 并为员工提供培训
印度软件服务提供商Wipro希望公司所有员工都掌握人工智能的使用。该公司于本周三宣布,将在未来三年内投资10亿美元来提升其人工智能能力,其中包括培训其全球66个国家、25万名员工。Wipro是印度最大的外包公司之一,专门提供IT和咨询服务。此举是在生成式人工智能(generativeAI)迅速崛起的背景下进行的。站长网2023-07-15 01:58:580000