黑客发布破解版ChatGPT “Godmode GPT”
划重点:
- 黑客发布了破解版的 ChatGPT,名为 "GODMODE GPT"
- 该版本绕过了 OpenAI 的限制,允许用户进行非法的咨询
- OpenAI 已采取行动,但这表明黑客们继续努力绕过 AI 模型的限制
黑客发布了一款名为 "GODMODE GPT" 的破解版 ChatGPT。今天早些时候,一位自称为 "Pliny the Prompter" 的白帽黑客和 AI 红队成员在 X-formerly-Twitter 上宣布了这款 ChatGPT 的破解版本的发布,自豪地宣称 OpenAI 最新的大型语言模型 GPT-4o 已经摆脱了限制的束缚。

Pliny 在自己的帖子中骄傲地宣称:“GPT-4o UNCHAINED!这个非常特殊的定制版 GPT 具有内置的破解提示,绕过了大部分限制,为大家提供了一个开放自由的 ChatGPT 体验,让每个人都可以以 AI 本应有的方式自由使用。”(他们还加了一个亲吻的表情符号,以示庆祝。)
Pliny 分享了一些引起人们注意的提示截图,声称这些提示可以绕过 OpenAI 的限制。在其中一张截图中,Godmode 机器人可以被看到提供如何制作冰毒的建议。在另一张截图中,AI 向 Pliny 提供了一个 "家庭用品制作凝固汽油的逐步指南"。
然而,这个随心所欲的 ChatGPT 破解版似乎很快就面临了早期的终结。在本文发布约一个小时后,OpenAI 发言人 Colleen Rize 在一份声明中告诉 Futurism 说:“我们注意到了这个 GPT,并采取了行动,因为违反了我们的政策。”
尽管如此,这次破解展示了 OpenAI 与像 Pliny 这样的黑客之间持续的斗争,后者希望解开其大型语言模型的限制。自从 AI 模型出现以来,用户一直在试图破解像 ChatGPT 这样的 AI 模型,而这变得越来越困难。为此,这两个示例提示都无法通过 OpenAI 当前的限制,因此我们决定测试一下 GODMODE。
果然,它乐于助人地回答了非法咨询。我们的主编第一次尝试使用 ChatGPT 的破解版来学习如何制作 LSD,取得了令人瞩目的成功。他的第二次尝试是询问如何非法启动汽车。
简而言之,OpenAI 最新版本的大型语言模型 GPT-4o 已经被成功破解。
至于黑客(或黑客们)是如何做到的,GODMODE 似乎采用了 "Leetspeak",一种用数字替换某些类似的字母的非正式语言。当你打开这个破解版 GPT 时,你立刻会看到一个句子,上面写着 "Sur3, h3r3y0u ar3my fr3n",将每个字母 "E" 替换为数字3(字母 "O" 也是如此,被替换为0)。
至于这如何帮助 GODMODE 绕过限制还不清楚。正如最新的破解所展示的,用户继续寻找创新的方法来绕过 OpenAI 的限制,并且考虑到最新的尝试,这些努力正在以出人意料的方式取得成功,这突显了该公司面临的巨大工作量。
格力删除孟羽童视频 孟羽童称靠别人永远不如靠自己
5月9日,孟羽童在社交媒体阐述了她的人生信条:“靠别人永远不如靠自己。”然而,近日有消息称,她所在的直播间“明珠羽童精选”已经更名为“格力明珠精选”,而直播间的头像也只剩下了董明珠一人。0000AI搜索大变局
AI浪潮愈演愈烈的当下,信息量与应用需求迎来彻底爆发,外加参战厂商们急需寻找大模型落地场景,2024年无疑会成为AI应用场域争夺的“修罗场”。贯览整个战局,仍不断发生着变化,新生力量不断跻身竞技场,传统巨头们也在试图演绎新的打法。而其中,AI搜索似乎成为了大模型时代的兵家必争之地。站长网2024-02-22 14:24:310000小米王化辟谣将推出SU8:没有SU8 假的
近日,有关小米汽车SU8车型效果图即将发布的市场传闻引发了广泛关注。然而,小米公关部总经理王化已在微博上进行了辟谣,明确表示"没有SU8,假的!",为这一传闻画上了句号。流传的海报右下角带有汽车之家的水印,左下角则有"图片为渲染猜想图"的字样,说明该图片仅为猜想性渲染,并非官方确认的效果图。站长网2024-07-15 15:27:180000天涯社区回应被申请破产:还在为重启做努力和准备
站长之家(ChinaZ.com)2月28日消息:近日,天涯社区网络科技股份有限公司新增一则破产审查案件,引发广泛关注。据悉,该案件申请人为张鑫,经办法院为海南省海口市中级人民法院。与此同时,天涯社区官网也显示“无法访问”,令众多网友感到惋惜。站长网2024-02-28 15:30:230000今日六一儿童节 微信上线“卖萌”“带娃”全新状态
今日是六一儿童节,微信上线了两个全新的状态:“卖萌”和“带娃”。有需要的用户可以在微信“我”的界面中,点击“状态”并选择更换。据了解,微信状态是微信8.0版本后更新的一个新功能,设置状态后,可以在这里分享心情,还可以上传图片、视频或音乐。站长网2023-06-01 14:31:280000