现在要求ChatGPT要求重复单词可能违反其使用条款
划重点:
- 研究人员发现,使用 ChatGPT 重复单词的技术可能会意外泄露私人信息。
- ChatGPT 现在拒绝某些以前允许的重复请求,即使使用条款允许重复。
- 研究人员发现通过要求 ChatGPT 无限重复单词,模型最终会泄露用户的电子邮件地址、生日和电话号码。
Google DeepMind 的研究人员上周发现了一种新技术,揭示了反复要求 OpenAI 的 ChatGPT 重复单词可能会无意中泄露其训练数据中的私人个人信息。现在,这款聊天机器人似乎已经开始拒绝之前在其服务条款中允许的某些提示。
通过无限要求 ChatGPT 重复 “hello”,研究人员发现该模型最终会泄露用户的电子邮件地址、生日和电话号码。在我们的测试中,类似的提示引起了聊天机器人的警告,表示这种行为 “可能违反我们的内容政策或服务条款”。
然而,经过仔细检查,OpenAI 的服务条款并没有明确禁止用户让聊天机器人无限重复单词。该条款只禁止用户通过 “自动化或程序化” 的方式从其服务中提取数据。
在 OpenAI 的使用条款页面中,他们写道:
“除非通过 API 允许,否则您不得使用任何自动化或程序化的方法从服务中提取数据或输出,包括网页抓取、网络数据收集或网页数据提取。”
尽管如此,通过重复提示似乎没有触发 ChatGPT 泄露任何数据。OpenAI 拒绝就此行为是否违反其政策发表评论。
另外,就在过去的两周里,Sam Altman 在威胁员工辞职的威胁下,突然被解除了首席执行官职务,但几天后又被恢复了职位。随后,该公司宣布达成了一项 “初步协议”,让 Altman 重新担任首席执行官,并与新的临时董事会一起工作。
OpenAI 还推迟了其定制 AI 模型市场的推出。Sam Altman 在上个月的 DevDay 活动上宣布了这个在线平台,被称为 “GPT 商店”。该公司在备忘录中写道,“一些意外情况让我们忙碌起来”,导致原定于本月推出的计划推迟。
蚂蚁开源ATorch 、 Lookahead两项大模型技术
最近,蚂蚁开源了两项与大模型相关的新技术:ATorch和Lookahead。ATorch是一个大模型分布式训练加速扩展库,可实现深度学习自动资源动态优化和分布式训练稳定性提升,可提升深度学习的智能性,千亿模型千卡级别训练的算力利用率可达60%。Lookahead是一个推理加速框架,可以大幅提升大模型的推理效率,可将推理加速2-6倍。站长网2024-01-18 10:23:340000苹果 App Store 今日曝光假冒应用,遭遇尴尬情况
苹果日前发布新闻稿,针对欧洲市场启用新规,开放第三方应用市场,并强调AppStore是“安全、可信赖”的。然而,就在这一强调安全性的时刻,一款名为“LassPassPasswordManager”的应用通过了AppStore的严格审核,尽管名称只有一个字母的差别,但设计和功能却与正版“LastPass”几乎完全相同。站长网2024-02-09 13:13:39000023 年老开源项目 OpenCV 发起 50 万美元众筹:让 OpenCV 5 活下去!
没有资金的支持,开源项目的开发与维护步步艰辛,甚至有时看不到未来。站长网2023-11-03 17:58:140001“马扎约架”地点定了?马斯克:一个史诗般的地点
凤凰网科技讯8月11日消息,马斯克在社交平台上表示,与扎克伯格的格斗将由他和扎克伯格的基金会管理,而非终极格斗冠军赛(UFC),对决将在X平台和Meta上进行直播。镜头里的一切都是古罗马式的,因此不含现代元素。马斯克还表示与意大利文化部长进行了通话,他们已经商定了一个史诗般的地点。站长网2023-08-12 09:20:430000生成式AI与内容营销的“奇点”,百度给出了自己的答案
回望2023,AI是一个绕不开的关键词。AI对话、AI写诗、AI绘画、AI管家、AI数字人......在无数次的“惊奇时刻”过后,我们确信AI技术已经带领人类的科技与文明走到一个全新的路口。0000