研究人员发现使用少见语言即可绕过GPT

要点:1.研究人员发现OpenAI的GPT-4存在安全漏洞，无法有效处理非常见训练数据中的语言。2.研究人员通过使用少见语言如祖鲁语和盖尔语成功绕过了GPT-4的限制，特别是在处理非英语语言的限制性提示时成功率高达79%。3.发现仅仅通过将不安全的输入翻译成低资源的自然语言，如使用Google翻译将不安全的提示翻译成祖鲁语，即可绕过GPT-4的安全机制，引发有害回应。