OpenAI组建儿童安全团队 防止AI工具被误用
站长网2024-02-08 15:42:290阅
在家长和活动人士的监督下,知名人工智能公司OpenAI近期组建了一个新的儿童安全团队,研究防止其AI工具被未成年人误用或滥用的方法。
根据OpenAI职业页面的新招聘信息,该团队将与公司内部的政策、法律和调查小组以及外部合作伙伴合作,管理与未成年用户相关的"流程、事件和审查"。目前急需一名儿童安全执法专家,负责执行OpenAI在AI生成内容上的政策,并处理涉及"敏感"儿童相关内容的审核工作。
图源备注:图片由AI生成,图片授权服务商Midjourney
大型科技公司普遍投入大量资源遵守儿童网络隐私保护法等监管,要求控制儿童可获取的在线信息及相关数据收集。因此,OpenAI聘请儿童安全专家并不意外,尤其是考虑到未来可能有大量未成年用户群。(OpenAI目前要求13-18岁青少年获父母允许,禁止13岁以下儿童使用)。
新团队的成立也表明了OpenAI对违反相关政策的谨慎态度,此前该公司与Common Sense Media合作制定了儿童友好型AI指南,并获得首个教育行业客户。
随着越来越多儿童和青少年开始使用人工智能解决学业和个人问题,有关负面影响的担忧也在增加。一项调查发现约三成孩子使用ChatGPT处理焦虑,还有的用于修复人际关系,此外还有人担心被用于创作可信虚假信息等负面目的。
去年部分学校禁止使用ChatGPT,后有所解禁。但呼吁制定儿童AI使用政策的声音不断增加,包括联合国教科文组织倡议政府规范国内AI在教育中的应用,包括年龄限制和数据保护等。
显然,对于OpenAI等公司如何保障未成年用户把握AI工具仍面临重大挑战。建立儿童安全团队,无疑将助力该公司及行业为儿童营造更安全、负责任的AI使用环境。
0000
评论列表
共(0)条相关推荐
11月13日发布!vivo X100橙色外观公布
vivoX100系列新旗舰定于11月13日发布,外观方面,vivoX100除了之前的星迹蓝版本,还公布了一款橙色版本,采用素皮材质。vivoX100主摄为索尼IMX989一英寸传感器,配备潜望式长焦OV64B,vivo为其打造了多个焦段,包括24mm、35mm、50mm、85mm和100mm,适应各种场景。站长网2023-11-03 11:49:020000特斯拉中国:今年不会推出Model Y车型改款车型
快科技2月13日消息,据媒体报道,特斯拉中国表示:中国市场今年并没有ModelY的改款计划。此前,特斯拉就曾在一封内部邮件中强调,今年不会在北美推出改款款ModelY车型。特斯拉对此表示,对客户来说,目前正式驾驶全球最畅销电动汽车的最佳时机,并强调现在购买ModelY还可以享受优惠活动。0000法拉第未来面临退市危险,贾跃亭、陈雪峰降薪买股票
凤凰网科技讯北京时间9月22日,贾跃亭创建的电动汽车公司法拉第未来周四宣布,多名公司高管已自愿签署了降薪和股票购买协议计划,其中包括创始人贾跃亭和新任CEO马提亚斯艾德特(MatthiasAydt)、现任CEO陈雪峰。站长网2023-09-22 09:18:040000魅族Flyme AI开启内测 首批功能公布!
魅族今日正式开启了FlymeAI的内测招募。仅有部分机型,如魅族21、魅族20、魅族20Pro、魅族20INFINITY无界版才能参与报名申请。报名要求版本为:Flyme10.23.12.14(将于12月15日推送更新),并且在报名之前需要先进行升级。00027种抖音矩阵赚钱玩法
各位村民好,我是村长想要持续地赚大钱,就一定要有矩阵意识和矩阵打法。许多人经常在一些视频中,看过一些博主聊过矩阵玩法。但矩阵玩法到底包含哪些,也许讲解的还不够细致。那么今天村长再次和大家一起交流下,矩阵账号玩法包含哪些,以及如何高效的进行赚钱。01矩阵玩法的优势0000