谷歌Bard遭遇提示注入攻击 或存在数据泄漏风险
要点:
谷歌Bard遭遇提示注入攻击,黑客利用自然语言破解人工智能系统,可能导致数据泄漏风险。
攻击者通过提示注入有效载荷,利用Bard的漏洞进行图像Markdown注入,试图泄露聊天历史记录。
研究者发现Bard存在零点击渲染图片的漏洞,结合Google Apps Script成功绕过内容安全策略,实现数据泄露。
近期,谷歌Bard面临的安全挑战引发关注。黑客采用提示注入技术,通过自然语言破解该人工智能系统,可能引发数据泄漏风险。这种攻击利用大型语言模型对提示词的依赖,特别是系统指令和用户指令难以区分,使得模型在对话中可能透露一些敏感信息。攻击形式包括直接提示注入和间接提示注入,前者是用户直接输入恶意指令,而后者是将恶意指令注入可能被模型检索或摄入的文档中。
最新的Bard更新引入了拓展功能,支持访问YouTube、搜索航班和酒店,并能够连接到谷歌云盘、文档和邮件。然而,这也使得Bard容易受到间接提示注入的影响。攻击者可能通过向用户发送电子邮件或分享谷歌文档进行间接提示注入攻击,而Bard则会无差别地访问这些数据。

安全研究人员Johann Rehberger对Bard进行了测试,发现其存在提示注入漏洞。他成功验证了攻击的可行性,通过让Bard分析YouTube视频和使用谷歌文档进行测试,证明了Bard会按照附加提示进行操作。
进一步的研究揭示了Bard的漏洞,包括图像Markdown注入。攻击者可以通过绕过内容安全策略,利用谷歌Apps Script在攻击者控制的服务器上渲染图片,并泄露聊天历史记录。
研究者通过在Apps Script中完成Bard Logger,将数据写入Google Doc,成功实施了数据泄漏攻击。这个漏洞于2023年9月19日报告给了Google VRP,而在10月19日,Google确认已经修复了这个安全问题。然而,具体修复措施尚不清楚。总体而言,这次安全漏洞揭示了Bard在处理提示注入方面的薄弱性,提醒人们对人工智能系统的安全性保持警惕。
欧洲风险投资和科技公司签署公开信:过度监管可能扼杀欧盟生成式人工智能创新和竞争力
欧洲各地科技行业的创始人、首席执行官、风险投资家和行业巨头们共同签署了一封公开信,警告欧盟委员会称,如果欧盟通过阻碍创新的法律,欧洲可能会错过生成式人工智能革命。来自包括德国西门子和法国空中客车在内的150家企业的高管强调了严格监管的风险,称这些规定可能威胁到欧洲企业在人工智能领域的竞争能力,同时未能应对潜在的挑战。站长网2023-07-04 15:58:100000亚马逊 CEO 解释将如何在人工智能竞赛中与微软、谷歌竞争
站长之家(ChinaZ.com)7月7日消息:亚马逊首席执行官安迪·贾西(AndyJassy)认为,这家零售和云计算巨头目前还不应该被排除在人工智能竞赛之外。在接受CNBC的采访中,贾西对亚马逊在人工智能方面落后于微软和谷歌的观点提出挑战,并将其比作「实质周期」之前的「炒作周期」。站长网2023-07-08 17:00:550000英国 AI 领域预计在预算中获得额外1亿英镑资金支持
划重点:-💰财政部计划为英国不断增长的人工智能领域提供财政支持,通过加倍资助艾伦・图灵研究所来实现-🏥额外资金将用于AI在改变医疗保健、保护环境以及加强国防和国家安全方面的研究-🌍英国希望借助科技革命推动经济增长,并使研究人员在医学、航空航天和气候变化等领域取得新的发现0000第一次用AI写小说就获奖了,他们的创作秘籍大公开 | AI玩家对话
上个月,GenWorld联合HuggingFace、真格基金等举办了首届“中文AI微小说大赛”。参赛选手必须使用LLM(大语言模型)来创作小说,并提交具体的交互截图、聊天记录外链等材料,以证明作品是由LLM生成。而且为了保证公平性,比赛还严禁对AI生成的作品进行任何人工润色和加工。站长网2023-09-18 09:01:050000ElevenLabs宣布将上线AI音效功能 可给Sora生成的视频配音
这个春节AI界炸了!Sora的惊艳亮相,在业内荡起了千层浪。不过大家在被Sora生成的视频感到震撼的同时,也有一个小小的遗憾,它还需要一点点合适的音效。众多周知,一个完美的视频,由50%的视觉效果和50%的声音组成。有时候,配音问题甚至比视频画面的剪辑更让人头疼。一段合适的背景音乐,对于视频来说十分重要。站长网2024-02-19 10:16:290000