专家呼吁:Deepfake检测工具须考虑深色肤色群体 避免偏见
站长网2023-08-19 15:28:180阅
本文概要:
1. 担心训练数据集中的偏见会导致少数族裔承受欺诈、诈骗和虚假信息的压力。
2. 大部分深度伪造检测器是基于依赖于用于训练的数据集的学习策略。然而,这些检测方法并不总是适用于深色肤色的人群。
3. 缺乏对所有种族、口音、性别、年龄和肤色的包容性训练集可能会导致偏见。
专家警告说,为应对日益严重的深度造假(看起来逼真的虚假内容)威胁而开发的检测工具必须使用包含较深肤色的训练数据集,以避免偏见。
目前大多数Deepfake深度伪造检测器都基于依赖于训练数据集的学习策略,并利用人眼无法察觉的迹象进行检测,例如监测血液流动和心率。
然而,这些检测方法并不总是适用于深色肤色的人群,如果训练集中不包含所有种族、口音、性别、年龄和肤色的样本,就会存在偏见的问题。
专家们担心这种偏见将会导致对少数群体进行深度伪造的欺诈、诈骗和虚假信息的增加。为了解决这个问题,深度伪造检测工具需要使用视觉线索,如血液流动和心率检测,但由于深色肤色在视频流中很难提取心率,这些工具对少数群体的表现会较差。
因此,需要建立新的数据集,并使用更具代表性的肤色范围来训练机器学习模型,以确保包容性和准确性。然而,目前世界上还没有规定相应的监管措施,这导致偏见在新技术中仍然存在和复制。
为了解决这个问题,哈佛大学社会学教授兼谷歌客座研究员埃利斯·蒙克 (Ellis Monk) 开发了蒙克肤色量表。它是一种比科技行业标准更具包容性的替代尺度,并且将提供比可用于数据集和机器学习模型更广泛的肤色。专家们呼吁建立更具包容性的训练集和标准化的测量方法,以解决深度伪造检测工具的偏见问题。
0000
评论列表
共(0)条相关推荐
三星 Galaxy Z Fold 5 和 Flip 5 基于人工智能的数字变焦算法或通过软件更新下放至 Galaxy S23 系列
最新的三星可折叠设备GalaxyZFlip5和Fold5可能没有突破性的升级,但它们巩固了三星在可折叠硬件领域的领导地位。站长网2023-07-31 17:59:040000蔚来换电站全国已突破1500座 李斌:已有车企在谈共用
快科技6月25日消息,蔚来汽车今日宣布,截至2023年6月25日,蔚来全国换电站布局数量突破1500座,累计建成16204根充电桩,2023年新增1000座换电站,年底将超2300座。作为蔚来的核心竞争力之一,换电站成为了很多蔚来车主的心头好。站长网2023-06-26 12:31:540000Gemini上线首日:用户褒贬不一,演示被质疑「造假」,谷歌承认了
又不求融资,怎么也给demo加美颜?「谷歌,这就有点尴尬了。」没有想到,Gemini上线头一天,热门评论会是这个样子。本周三,谷歌的Gemini让生成式AI进入了原生多模态时代。人们第一时间涌入新模型加持的Bard想要试试AI的能力,结果给出的评价褒贬不一。其中最值得注意的是有人指出,Gemini在发布时,谷歌给出的一系列Demo中最令人眼花缭乱的部分是伪造的。站长网2023-12-08 18:51:340001TESTA:加速理解长视频的新方法
TESTA是一种旨在通过组合相似帧和补丁来加速理解长视频的方法。这种方法的引入成功地降低了计算负荷,并提高了匹配段落到视频以及回答关于长视频的问题的性能。站长网2023-11-02 12:07:040000预算14万以内买纯电动SUV,建议看这两款,续航400km,适合家用
随着新能源汽车在国内家用车市场中的热度越来越高,消费者选择的车型也比较多样化,有轿车、SUV、MPV等,其售价也比较亲民。今天给大家带来两款纯电动SUV,预算14万以内,续航里程均为400km,适合家用。第一款,哪吒U2022款智400三元锂(指导价12.38万)站长网2023-05-24 10:19:290000