登陆注册
20662

儿童虐待者利用人工智能生成“深度伪造品”引发性勒索循环

站长网2024-04-23 14:46:530

儿童虐待者正在利用人工智能技术制作"深度伪造品"来勒索受害者拍摄自己的虐待行为,从而开始一个可持续数年的性勒索循环。

在英国,制作模拟虐待儿童图像是非法的,工党和保守党一致呼吁禁止所有由人工智能生成的露骨图像。但全球范围内对如何监管这一技术几乎没有达成共识。更糟糕的是,只需按一下按钮就能创造出更多此类图像,因为明确的图像已成为人工智能图像生成的基础。

图源备注:图片由AI生成,图片授权服务商Midjourney

研究发现,人工智能图像生成器接受了儿童性虐待图片的训练。斯坦福大学的研究人员发现,构成人工智能图像生成器最大训练集之一的数十亿张图像中,埋藏着数百甚至数千个儿童性虐待材料实例。Laion等数据集的创建者承认,当这些研究被发现时,大量链接已经失效,但非法训练数据已经刻录到人工智能系统的神经网络中。

为应对这一问题,OpenAI等公司采取了措施,试图确保其生成的图像更加清晰可信。但专家表示,即使依赖经过训练不会创造此类图像的系统,这也只是一种不太脆弱的解决方法。长远来看,如何限制一个你不完全理解的人工智能系统仍是一大挑战。

有专家呼吁为开源人工智能的发展保留空间,因为这可能是解决未来危害的最佳工具所在。政策文件建议,短期内应针对单一用途"裸体"工具的创建者和宿主采取行动,但长期应对抗明确的人工智能图像问题仍需进一步探讨。

0000
评论列表
共(0)条