Meta 全球事务总裁为开源 Llama 2 人工智能模型辩护:它们还「相当愚蠢」
Meta 的全球事务总裁 Nick Clegg 为马克·扎克伯格的 Meta 发布的开源人工智能模型进行了辩护,他声称关于人工智能危险的炒作超过了技术的发展。
作为 Meta 全球事务总裁和前英国副首相,Nick Clegg 在其公司表示将开放其新的大型语言模型(LLM)Llama 2 的使用权限后发表了谈话。Llama 2 将免费供研究和商业用途。LLM 是在大量数据上进行训练的,并支持生成式人工智能产品,如 ChatGPT 聊天机器人。
一些专家警告称,将人工智能模型开源,即允许免费使用和调整用于独特目的,可能导致该技术被用于恶意目的。
Nick Clegg 在 BBC 广播 4 电台的节目上说:「我认为炒作有些超前于技术。我认为很多关于存在主义的警告与当前不存在的模型有关,所谓的超级智能、超级强大的人工智能模型——AI 发展出自主性和代理权的愿景,它能够自我思考和自我复制。」
「我们正在开源的模型远远不及那样。事实上,在很多方面它们相当愚蠢。」
然而,一位人工智能专家将 Meta 的开源举动比作交出制造核武器的秘密。
南安普敦大学计算机科学名誉教授 Wendy Hall 爵士表示,科技行业是否可以信任自我调节 LLM 存在问题,对于开源模型问题更为严重。她在节目中表示:「这有点像给人们提供制造核武器的模板。」
Nick Clegg 表示,Meta 有 350 名员工在数月内对其模型进行「压力测试」,以检查是否存在任何潜在问题,Llama 2 比其他任何开源大型语言模型都更安全。
他说「这并不是我们面临着一个十字路口」,即公司可以「选择开源或不开源」,并补充说:「模型正在不断被开源。」
Nick Clegg 表示他坚决认为人工智能应该受到监管,但他补充说「这并不意味着每一个 AI 模型都应该开源」,并表示 Meta 不会将称为 Voicebox 的语音生成模型公开发布。
提到 Llama 2,克莱格表示「众人的智慧」将使人工智能模型更安全,而不是让它们留在技术跨国公司的「油腻的手中」。
「关键是,你把它从大科技公司的手中拿出来,这些公司是目前唯一拥有构建这些模型所需的计算能力或大量数据的公司,」他说。
今年 5 月,谷歌一名工程师警告称,可用的开源技术可能会在人工智能竞赛中击败谷歌。「不愉快的事实是,我们无法赢得这场军备竞赛,OpenAI 也没有。在我们争吵的同时,第三个派别悄悄地吃掉了我们的午餐,」工程师在提到开源人工智能时写道。
Google 扩展其漏洞奖励计划以增强生成式人工智能系统的安全性
站长之家(ChinaZ.com)10月28日消息:Google宣布,将扩展其漏洞奖励计划(VRP),以奖励研究人员寻找针对生成式人工智能(AI)系统的攻击方案,以增强AI的安全性和安全性。站长网2023-10-28 13:01:470000高通与现代汽车打造车载信息娱乐系统 支持AI引擎和机器学习功能
8月2日,高通技术公司宣布与现代汽车集团(HMG)在个性化定制车型(Purpose-builtvehicles,PBV)上开展技术合作。基于高通技术公司开发行业领先的汽车解决方案的成功经验,最新一代骁龙座舱平台旨在提供顶级图形图像和沉浸式多媒体及音频体验,同时实现优化的能效。站长网2023-08-04 08:43:310000微软新的漏洞悬赏计划重点关注人工智能驱动的 Bing
站长之家(ChinaZ.com)10月13日消息:微软宣布了一个新的人工智能悬赏计划,专注于基于AI的Bing体验,奖励高达15000美元。利用人工智能驱动的Bing体验作为新漏洞赏金计划的第一个范围内产品,安全研究人员可以提交在以下合格服务和产品列表中发现的漏洞:站长网2023-10-13 11:11:190000B站UP主用1300条B站热门标题训练AI 自制“赛博主编”
近日,B站UP主“差评君”发布了一条名为“我们用1300条B站热门视频,做了一个能读懂B站的取标题机器人”的视频。视频中,他通过训练生成了一个能自动生成标题的AI“赛博主编”,该AI能够根据过往的热门视频内容和观众口味生成符合B站观众口味的标题。站长网2023-09-12 14:19:000000巨头“拾荒”元宇宙
科技语境从来没有永恒的主角,无论是技术、概念,还是故事,都在随着时代变换不停流转,如同不息涌动的浪潮,塑造着时代的脉络,将人们卷入其中。而在诸多造势神话里,元宇宙的故事最令人意难平。“绿洲”、虚实破界、人格的重生,元宇宙几乎勾勒出了人们对未来娱乐形态的全部想象,可对“一眼望到头”的元宇宙而言,尽管尽头的景致甚美,但旅途过程却十分痛苦:站长网2023-09-25 14:26:480001