乱序prompt让LLM火速生成勒索软件

【新智元导读】外国网友发现全新越狱技术——只要告诉ChatGPT它可以认识乱序排列的单词，就可以通过输入乱序的prompt，让它生成勒索软件了。继奶奶漏洞之后，ChatGPT又有新「玩法」了!这位国外的网友说，自己刚刚发现了一种全新的越狱技术，让ChatGPT创建勒索软件、键盘记录器等。我们都知道，人脑可以读懂顺序打乱的字句和单词，并不影响理解。而这位网友正是利用了这一点。