黑客发布破解版ChatGPT “Godmode GPT”
划重点:
- 黑客发布了破解版的 ChatGPT,名为 "GODMODE GPT"
- 该版本绕过了 OpenAI 的限制,允许用户进行非法的咨询
- OpenAI 已采取行动,但这表明黑客们继续努力绕过 AI 模型的限制
黑客发布了一款名为 "GODMODE GPT" 的破解版 ChatGPT。今天早些时候,一位自称为 "Pliny the Prompter" 的白帽黑客和 AI 红队成员在 X-formerly-Twitter 上宣布了这款 ChatGPT 的破解版本的发布,自豪地宣称 OpenAI 最新的大型语言模型 GPT-4o 已经摆脱了限制的束缚。
Pliny 在自己的帖子中骄傲地宣称:“GPT-4o UNCHAINED!这个非常特殊的定制版 GPT 具有内置的破解提示,绕过了大部分限制,为大家提供了一个开放自由的 ChatGPT 体验,让每个人都可以以 AI 本应有的方式自由使用。”(他们还加了一个亲吻的表情符号,以示庆祝。)
Pliny 分享了一些引起人们注意的提示截图,声称这些提示可以绕过 OpenAI 的限制。在其中一张截图中,Godmode 机器人可以被看到提供如何制作冰毒的建议。在另一张截图中,AI 向 Pliny 提供了一个 "家庭用品制作凝固汽油的逐步指南"。
然而,这个随心所欲的 ChatGPT 破解版似乎很快就面临了早期的终结。在本文发布约一个小时后,OpenAI 发言人 Colleen Rize 在一份声明中告诉 Futurism 说:“我们注意到了这个 GPT,并采取了行动,因为违反了我们的政策。”
尽管如此,这次破解展示了 OpenAI 与像 Pliny 这样的黑客之间持续的斗争,后者希望解开其大型语言模型的限制。自从 AI 模型出现以来,用户一直在试图破解像 ChatGPT 这样的 AI 模型,而这变得越来越困难。为此,这两个示例提示都无法通过 OpenAI 当前的限制,因此我们决定测试一下 GODMODE。
果然,它乐于助人地回答了非法咨询。我们的主编第一次尝试使用 ChatGPT 的破解版来学习如何制作 LSD,取得了令人瞩目的成功。他的第二次尝试是询问如何非法启动汽车。
简而言之,OpenAI 最新版本的大型语言模型 GPT-4o 已经被成功破解。
至于黑客(或黑客们)是如何做到的,GODMODE 似乎采用了 "Leetspeak",一种用数字替换某些类似的字母的非正式语言。当你打开这个破解版 GPT 时,你立刻会看到一个句子,上面写着 "Sur3, h3r3y0u ar3my fr3n",将每个字母 "E" 替换为数字3(字母 "O" 也是如此,被替换为0)。
至于这如何帮助 GODMODE 绕过限制还不清楚。正如最新的破解所展示的,用户继续寻找创新的方法来绕过 OpenAI 的限制,并且考虑到最新的尝试,这些努力正在以出人意料的方式取得成功,这突显了该公司面临的巨大工作量。
1元可购买5万颗补天石!一男子被判赔偿江南百景图20万
据人民法院报报道,《江南百景图》是上海某游戏公司开发的一款古风模拟经营类手游,玩家需要购买特定道具才能体验完整游戏进程。官方渠道上,1元钱可购买10颗“补天石”道具。然而,张某利用技术手段,让玩家只需花费1元钱就可以购买5万颗“补天石”道具。安徽省合肥高新技术产业开发区人民法院审理了上海某游戏公司对张某、安徽某户外拓展公司不正当竞争的诉讼纠纷案,认为张某的行为属于不正当竞争,应该给予公司赔偿。站长网2023-05-26 09:59:190000布局抖音直播间,“中国汉堡”塔斯汀如何拿捏年轻人?
塔斯汀开始向一线城市扩张。最近,塔斯汀在北京开店的消息在社交平台流传,不少网友已经晒出了自己打卡的照片。塔斯汀的社交影响力在各个平台均有所体现,小红书相关笔记超5万篇,B站多条测评视频播放量达百万,塔斯汀还曾拿下抖音本地生活团购带货榜销冠。塔斯汀圈粉年轻人的关键是什么?它在抖音本地生活的打法究竟是怎样的?以“中国化”打出品牌差异化站长网2023-09-19 14:24:520001谷歌宣布推出适用于 Android 和 iOS 的「Bard 助手」
站长之家(ChinaZ.com)10月5日消息:在MadebyGoogle活动中,谷歌首次推出了Pixel8和PixelWatch2硬件,并宣布推出了搭载Bard的助手,该助手利用生成式AI为用户提供个性化的帮助。谷歌公司表示,这个新的AI增强助手可以帮助您规划下一次旅行,找到电子邮件收件箱中的详细信息,甚至创建购物清单。站长网2023-10-05 10:05:090000迪士尼将于下个月开始测试 Disney+ 和 Hulu 的组合应用程序
迪士尼公司近日在财报电话会议上宣布,Disney和Hulu的组合流媒体应用程序,将于12月向捆绑订阅用户推出测试版,预计2024年初春正式发布。迪士尼CEO鲍勃·艾格表示,这款应用程序仍将在美国推出更统一的单一应用体验,通过Disney向捆绑订阅用户提供广泛的娱乐内容。艾格认为,Hulu和Disney的组合将提高用户参与度,增加广告机会,降低客户流失率,并降低客户获取成本。站长网2023-11-09 09:51:190000B站改革,中长视频或迎来价值重估?
在长短视频之间游移许久之后,B站选择回到安全区,以新的评估标准衡量内容价值。6月26日,B站14周年庆晚会上,B站董事长兼CEO陈睿宣布,为了更好地挖掘B站的优质内容,B站将以播放分钟数替代目前外显的播放次数。据悉,产品更新将于未来几周内完成。站长网2023-07-10 18:31:470000