谷歌Bard遭遇提示注入攻击 或存在数据泄漏风险
要点:
谷歌Bard遭遇提示注入攻击,黑客利用自然语言破解人工智能系统,可能导致数据泄漏风险。
攻击者通过提示注入有效载荷,利用Bard的漏洞进行图像Markdown注入,试图泄露聊天历史记录。
研究者发现Bard存在零点击渲染图片的漏洞,结合Google Apps Script成功绕过内容安全策略,实现数据泄露。
近期,谷歌Bard面临的安全挑战引发关注。黑客采用提示注入技术,通过自然语言破解该人工智能系统,可能引发数据泄漏风险。这种攻击利用大型语言模型对提示词的依赖,特别是系统指令和用户指令难以区分,使得模型在对话中可能透露一些敏感信息。攻击形式包括直接提示注入和间接提示注入,前者是用户直接输入恶意指令,而后者是将恶意指令注入可能被模型检索或摄入的文档中。
最新的Bard更新引入了拓展功能,支持访问YouTube、搜索航班和酒店,并能够连接到谷歌云盘、文档和邮件。然而,这也使得Bard容易受到间接提示注入的影响。攻击者可能通过向用户发送电子邮件或分享谷歌文档进行间接提示注入攻击,而Bard则会无差别地访问这些数据。
安全研究人员Johann Rehberger对Bard进行了测试,发现其存在提示注入漏洞。他成功验证了攻击的可行性,通过让Bard分析YouTube视频和使用谷歌文档进行测试,证明了Bard会按照附加提示进行操作。
进一步的研究揭示了Bard的漏洞,包括图像Markdown注入。攻击者可以通过绕过内容安全策略,利用谷歌Apps Script在攻击者控制的服务器上渲染图片,并泄露聊天历史记录。
研究者通过在Apps Script中完成Bard Logger,将数据写入Google Doc,成功实施了数据泄漏攻击。这个漏洞于2023年9月19日报告给了Google VRP,而在10月19日,Google确认已经修复了这个安全问题。然而,具体修复措施尚不清楚。总体而言,这次安全漏洞揭示了Bard在处理提示注入方面的薄弱性,提醒人们对人工智能系统的安全性保持警惕。
腾讯乐享发布“乐享 AI 助手”
在2023腾讯全球数字生态大会上,腾讯集团发布了“腾讯乐享AI助手”,基于腾讯的大模型等AIGC能力开发,该助手集成了腾讯乐享的多项产品能力,包括智能知识问答、多模态智能搜索、AI辅助创作、智能生成考题等功能。它可以帮助企业员工更快速、便捷地获取知识,提升学习效果。此外,AI助手还具备智能生成内容的能力,可以辅助内容生产和管理,助力企业创新增效。站长网2023-09-11 09:38:170000半佛仙人:在不确定性的世界里,做个目光短浅、思维简单的人
自2019年以公众号黑马姿态闯入大众视野后,“半佛仙人”凭借通俗的语言拆解复杂的商业世界,用犀利的观点搭配魔性表情包,无论文字还是视频爆款不断,全网圈粉超过千万,连续三年获得B站百大UP主,也实现了内容、流量和商业化的高度自洽。站长网2023-04-14 14:11:370000三星加速生产面向 AI 的高带宽存储芯片:人工智能市场需求增长
站长之家(ChinaZ.com)6月27日消息:三星相信在本十年结束之前,存储芯片将引领人工智能超级计算领域。该公司相信在AI服务器应用中,存储芯片将比英伟达的GPU表现更出色。几个月前,KyeHyunKyung表示三星将确保「以存储芯片为中心的超级计算机能在2028年问世。」现在,有报道称三星准备于今年大规模生产面向AI应用的高带宽存储(HBM)芯片。站长网2023-06-28 09:26:440000刚刚!公众号能修改图片了!
盼星星盼月亮!终于盼到了公众号这项重大更新——文章支持修改图片了!(想省略操作过程演示的小伙伴,可以直接拉到最后看注意事项)今天,公众号后台弹窗显示“新增图片的修改”。具体来说,点击图片后,可删除或替换图片,最多支持3张图片内的修改。从公众号后台的文章修改入口进入,点击需要修改的图片,就会弹出“替换”和“修改”两个功能选项。站长网2023-08-15 16:57:570000