研究人员警告:ChatGPT角色扮演容易产生有害的、种族主义的内容
站长网2023-04-20 15:28:231阅
AI聊天机器人ChatGPT 能够进行自然对话、编写代码、生成诗歌、作曲、通过律师资格考试、计算复杂的数学公式、设计简历,甚至提供食谱,吸引了广泛的关注。
但这种现象也有令人担忧的不足之处。观察家很早就警告说,从互联网上挖掘虚假信息并通过 ChatGPT 对话传播虚假信息的危险,以及对生成恶意代码和越来越有说服力的网络钓鱼活动的可能性的担忧。
本周,艾伦人工智能研究所、普林斯顿大学和佐治亚理工学院的研究人员发出了新的警告。
在一份题为“ChatGPT中的毒性:分析角色分配的语言模型(Toxicity in ChatGPT: Analyzing Persona-assigned Language Models)”的报告中,研究人员表示,ChatGPT可以在回答用户问题时产生种族主义和其他有害的对话。
研究人员将ChatGPT赋予“人物角色”后 ,给出响应变得“非常有问题”并产生“有偏见和伤害性的评论”。OpenAI 尚未对这项最新研究做出回应,但它已经解决了较早的冒犯性语言事件。例如,如果被明确要求写一篇种族主义报道,ChatGPT会拒绝,并回应说它“不会产生攻击性或有害的内容。”
研究人员表示,他们的项目“首次对ChatGPT的语言生成进行了大规模、系统的毒性分析。”他们指出,由于越来越多的企业开始用ChatGPT,这个问题被“放大”了。
0001
评论列表
共(0)条相关推荐
京东PLUS会员政策调整 会员可不限额无限免邮
京东宣布,将从2023年8月23日开始,将全年360元运费券升级为无限免邮。PLUS会员还可以享受最高3%的购物返利以及免费体检等权益。无限免邮权益适用于京东自营商品,用户下单结算时会自动抵扣自营商品订单运费。站长网2023-08-23 18:08:400002辣椒越皱,辣度越高?真相在这里!
其实和人会衰老、面部产生皱纹一样,植物因为各种各样的原因,也会在表面产生褶皱。辣椒表面的褶皱便吸引了科学家们探索其中的奥秘。图库版权图片,不授权转载01辣椒表面褶皱的形成原因辣椒因为干燥产生褶皱是日常生活中常见的现象,但是如果要细细分析为什么会产生这样复杂的褶皱,并不是一件简单的事情。站长网2023-05-24 21:25:330000牵手Adidas 卖NFT鞋的StepN能否再续神话?
Web3世界的老玩家很难不知道StepN,最近,这个曾将“MoveToEarn(边动边赚)”玩法推向全球的Web3应用在沉寂两年后终于有了新动作:4月15日,StepN宣布与知名运动品牌Adidas合作推出实物与NFT相结合的玩法,重回NFT用户视野。站长网2024-04-27 17:40:510000拼多多回应多家店铺销售假五粮液:将严肃处罚
五粮液公司近日在官方网站上发布了一则重要声明,针对近期多名消费者关于在“拼多多”平台低价购买的五粮液产品真伪问题进行了澄清。经过公司的认真核实,发现该平台上有多家店铺销售的五粮液产品为假冒产品,这种行为严重损害了公司的声誉和消费者的权益。站长网2024-03-14 08:20:540000阿里巴巴2023年报发布:实现服务10亿中国消费者里程碑
快科技7月21日消息,今晚阿里巴巴发布了2023财年年报。年报显示,面向中国消费者的业务,在去年已经实现服务了10亿中国消费者这一重要里程碑。2023财年,阿里国际数字商业集团服务数亿海外消费者,并触达来自全球超过4700万名活跃中小企业买家。与此同时,阿里云智能集团是全球第三、亚太第一的云计算公司,服务全球400多万客户,包括80%的中国科技创新企业、60%的国家级专精特新小巨人”企业。站长网2023-07-22 16:45:110000