OpenAI 宣布推出 ChatGPT 漏洞赏金计划 但不接受越狱行为
站长网2023-04-12 14:40:100阅
风靡一时的聊天机器人 ChatGPT 背后的公司 OpenAI 周二宣布,它将向报告其人工智能系统漏洞的用户提供最多 20000 美元资金。

OpenAI 表示:「我们的奖励范围从 200 美元的低严重性发现到高达 20000 美元的特殊发现,」。该计划是通过 Bugcrowd 这个漏洞赏金平台进行的。
然而,OpenAI 不接受 ChatGPT 的越狱行为,也不接受旨在欺骗人工智能程序违反其自身规则的文本提示。自从 ChatGPT 首次出现以来,用户已经找到了越狱的方法,让聊天机器人回应脏话,写一些被禁止的政治话题,甚至是创建恶意软件。
漏洞赏金计划也不接受关于 ChatGPT 生成不正确事实的报告。OpenAI 说:「模型安全问题并不适合在一个漏洞赏金计划中,因为它们不是可以直接修复的单独、不连续的错误。解决这些问题往往涉及大量的研究和更广泛的方法」。
OpenAI 称,大多数发现的初始优先级评级将使用漏洞赏金平台 Bugcrowd 的漏洞评级分类法。然而,漏洞优先级和奖励可以根据可能性或影响进行修改,由 OpenAI 自行决定。如果出现降级问题,安全研究人员将得到详细的解释。
0000
评论列表
共(0)条相关推荐
传统电商老板入局小红书20条建议
│前言│最近接触的比较多的就是想做小红书电商的老板们了,我一直在为电商老板们探索小红书的门路,深入研究内容营销的逻辑和流程。数字化时代,小红书作为一个强有力的平台,对于品牌传播和销售具有巨大的影响力。以下20条建是我自己实操以及跟内容山庄CEO圈成员交流后总结的,希望能够为你们的小红书之路提供有益的参考,加快弯道超车的速度。0000Stability AI推出全面的API服务,引领图像处理新时代
近日,StabilityAI宣布推出一套全新的API服务,旨在提供更全面、更高效的图像处理服务。这一举措无疑将为图像处理领域带来一场革命。详细内容:https://stability.ai/news/image-services-on-stability-ai-developer-platform这套API服务包含以下几个主要功能:站长网2024-03-23 05:18:250000Anthropic AI 团队研究显示:人工智能倾向于产生迎合用户的奉承性回应而非事实真相
站长之家(ChinaZ.com)10月25日消息:Anthropic是一家美国的人工智能初创企业和公益公司,由OpenAI的前成员创立。Anthropic专注于开发通用AI系统和语言模型,并秉持负责任的AI使用理念。Anthropic开发的Claude2于2023年七月推出。站长网2023-10-25 19:57:390000人工智能繁荣吸引加密矿机转向训练 AI 模型获利:「挖矿 2.0」时代到来
据报道,加密货币矿工似乎正在经历一次复苏,这要归功于人工智能(AI)的繁荣。WSJ一份报道指出,一些与加密业务相关的公司已经转向了人工智能领域。其中包括是SatoshiSpain,曾经是加密挖矿设备的销售商,这些设备配备了用于AI应用的图形芯片。在加密货币的寒冬,这些机器没有市场需求,所以Satoshi开始将它们改造成用于AI的工具。站长网2023-07-05 19:25:540003《生成式人工智能服务安全基本要求》公开征求意见
据全国信息安全标准化技术委员会网站消息,全国信息安全标准化技术委员会组织制定的技术文件《生成式人工智能服务安全基本要求》已形成征求意见稿。根据《全国信息安全标准化技术委员会技术文件制订工作程序(试行)》,现将该技术文件面向社会公开征求意见,如有意见或建议请于2023年10月25日24:00前反馈秘书处。站长网2023-10-12 17:25:390000