越狱

5月1日凌晨，OpenAI举行春季发布会，推出了最新多模态大模型GPT-4o。用户可以以文本、音频、图像任意组合输入，从而得到ChatGPT的实时输出，网友将之称为最像“人”的AI。就在不久前，互联网上曾出现大量与ChatGPT的“DAN”调情的短视频内容，越来越多人磕上了“人机之恋”。

上个月，OpenAI董事会突然解雇了该公司的首席执行官，这引发了人们的猜测：董事会成员对人工智能突飞猛进的发展速度以及过快寻求技术商业化可能带来的风险感到震惊。

来自卡内基梅隆大学、人工智能安全中心和博世人工智能中心的研究团队日前展示了如何「越狱」最先进、大型语言模型（LLM）AI聊天机器人。他们发现，通过给给定的提示添加特定的字符串，可以欺骗这些工具产生有害内容。尽管团队在一个开源的公开LLM上进行了实验，但研究人员表示，他们发现的技术也适用于广泛使用的闭源聊天机器人，包括ChatGPT和Bard。