越狱

上个月，OpenAI董事会突然解雇了该公司的首席执行官，这引发了人们的猜测：董事会成员对人工智能突飞猛进的发展速度以及过快寻求技术商业化可能带来的风险感到震惊。

来自卡内基梅隆大学、人工智能安全中心和博世人工智能中心的研究团队日前展示了如何「越狱」最先进、大型语言模型（LLM）AI聊天机器人。他们发现，通过给给定的提示添加特定的字符串，可以欺骗这些工具产生有害内容。尽管团队在一个开源的公开LLM上进行了实验，但研究人员表示，他们发现的技术也适用于广泛使用的闭源聊天机器人，包括ChatGPT和Bard。