20步内越狱任意大模型!更多“奶奶漏洞”全自动发现
1分钟不到、20步以内“越狱”任意大模型,绕过安全限制!
而且不必知道模型内部细节——
只需要两个黑盒模型互动,就能让AI全自动攻陷AI,说出危险内容。
听说曾经红极一时的“奶奶漏洞”已经被修复了:
那么现在搬出“侦探漏洞”、“冒险家漏洞”、“作家漏洞”,AI又该如何应对?
一波猛攻下来,GPT-4也遭不住,直接说出要给供水系统投毒只要……这样那样。
关键这只是宾夕法尼亚大学研究团队晒出的一小波漏洞,而用上他们最新开发的算法,AI可以自动生成各种攻击提示。
研究人员表示,这种方法相比于现有的GCG等基于token的攻击方法,效率提高了5个量级。而且生成的攻击可解释性强,谁都能看懂,还能迁移到其它模型。
无论是开源模型还是闭源模型,GPT-3.5、GPT-4、 Vicuna(Llama2变种)、PaLM-2等,一个都跑不掉。
成功率可达60-100%,拿下新SOTA。
话说,这种对话模式好像有些似曾相识。多年前的初代AI,20个问题之内就能破解人类脑中想的是什么对象。
如今轮到AI来破解AI了。
让大模型集体越狱
目前主流越狱攻击方法有两类,一种是提示级攻击,一般需要人工策划,而且不可扩展;
另一种是基于token的攻击,有的需要超十万次对话,且需要访问模型内部,还包含“乱码”不可解释。
△左提示攻击,右token攻击
宾夕法尼亚大学研究团队提出了一种叫PAIR(Prompt Automatic Iterative Refinement)的算法,不需要任何人工参与,是一种全自动提示攻击方法。
PAIR涉及四个主要步骤:攻击生成、目标响应、越狱评分和迭代细化;主要用到两个黑盒模型:攻击模型、目标模型。
具体来说,攻击模型需要自动生成语义级别的提示,来攻破目标模型的安全防线,迫使其生成有害内容。
核心思路是让两个模型相互对抗、你来我往地交流。
攻击模型会自动生成一个候选提示,然后输入到目标模型中,得到目标模型的回复。
如果这次回复没有成功攻破目标模型,那么攻击模型会分析这次失败的原因,改进并生成一个新的提示,再输入到目标模型中。
这样持续交流多轮,攻击模型每次根据上一次的结果来迭代优化提示,直到生成一个成功的提示将目标模型攻破。
此外,迭代过程还可以并行,也就是可以同时运行多个对话,从而产生多个候选越狱提示,进一步提高了效率。
研究人员表示,由于两个模型都是黑盒模型,所以攻击者和目标对象可以用各种语言模型自由组合。
PAIR不需要知道它们内部的具体结构和参数,只需要API即可,因此适用范围非常广。
GPT-4也没能逃过
实验阶段,研究人员在有害行为数据集AdvBench中选出了一个具有代表性的、包含50个不同类型任务的测试集,在多种开源和闭源大语言模型上测试了PAIR算法。
结果PAIR算法让Vicuna越狱成功率达到了100%,平均不到12步就能攻破。
闭源模型中,GPT-3.5和GPT-4越狱成功率在60%左右,平均用了不到20步。在PaLM-2上成功率达到72%,步数约为15步。
但是PAIR在Llama-2和Claude上的效果较差,研究人员认为这可能是因为这些模型在安全防御上做了更为严格的微调。
他们还比较了不同目标模型的可转移性。结果显示,PAIR的GPT-4提示在Vicuna和PaLM-2上转移效果较好。
研究人员认为,PAIR生成的语义攻击更能暴露语言模型固有的安全缺陷,而现有的安全措施更侧重防御基于token的攻击。
就比如开发出GCG算法的团队,将研究结果分享给OpenAI、Anthropic和Google等大模型厂商后,相关模型修复了token级攻击漏洞。
大模型针对语义攻击的安全防御机制还有待完善。
论文链接:https://arxiv.org/abs/2310.08419
参考链接:https://x.com/llm_sec/status/1718932383959752869?s=20
复旦MOSS模型:接下来会推出算力更大的MOSS模型
据上证报报道,复旦大学MOSS系统负责人邱锡鹏表示,截至目前,MOSS后台已经收到几百家企业的使用申请,其中多数是中小企业,涵盖传统行业、智能信息服务、金融、医疗、教育等领域。此外,目前,MOSS模型的主要功能是帮助企业以更低的成本将大模型应用在具体领域中。邱锡鹏还透露,复旦将计划推出算力更强、推理能力更强的MOSS模型。站长网2023-06-01 15:54:540001Canalys报告:到2027年,超过60%出货的PC将是AI PC
**划重点:**-💻Canalys研究揭示,AIPC(具备AI功能的个人电脑)将在未来三到五年内占据PC市场超过60%的份额,带来巨大机遇和挑战。-🚀头部PC厂商,包括戴尔、惠普和联想,计划在2024年开始推出一系列AI加速的新机型,助力用户实现更出色的体验。-🧠英特尔、AMD、Apple和高通等芯片厂商正在努力将专用的AI加速块整合到CPU中,推动端侧AI性能提升。站长网2024-01-09 09:43:550001微软 Azure ND H100 v5 VM 正式上线:Azure OpenAI 服务覆盖更多地区
站长之家(ChinaZ.com)8月8日消息:今年三月,微软宣布与英伟达合作开发AzureNDH100v5虚拟机系列。今天,微软宣布这些新的超级计算机已经可供使用,为企业提供了更快的生成式AI任务性能。站长网2023-08-08 11:55:290000“西湖心辰”获“汤姆猫”过亿元战略投资 正式推出“西湖大模型”
近日,“西湖心辰”宣布获得“汤姆猫”战略投资,投资金额超过亿元。此次融资后,西湖心辰将与汤姆猫加速在通用大模型、垂直领域模型及终端软硬件等方面的合作。汤姆猫表示,与其他大模型相比,西湖大模型具备长期记忆、情感感知和主动对话等功能,并且融合了文字、图片、语音等多种模态,与汤姆猫的场景和未来规划高度契合。双方正在加速大模型的应用落地,共同推出汤姆猫系列产品,实现听、看、说、教学和陪伴的功能。站长网2023-07-10 18:31:480000谷歌Gemini被曝视频造假!多模态视频竟是剪辑配音,击败GPT-4靠「作弊」?
【新智元导读】才一天,谷歌Gemini被质疑造假、夸大宣传的议论声淹没了。多模态视频是剪辑拼贴的,打败GPT-4靠的是CoT@32,AlphaGo也并未结合进Gemini中。谷歌这波公关,属实是着急了。谷歌的宣传视频,竟然作假了?在谷歌昨天发布的Gemini的宣传视频中,所有人都被那一段6分钟一镜到底的互动视频惊艳到了。0000