卡内基梅隆大学提出一种有效攻击大语言模型的方法

最近，卡内基梅隆大学的研究人员提出了一种简单而有效的攻击方法，能够使大规模语言模型（LLM）产生不可接受的行为。他们的研究表明，通过在查询中添加后缀，可以大大增加开源和闭源语言模型生成肯定回答的可能性。论文地址:https://llm-attacks.org/zou2023universal.pdf