对抗生成式AI模型

近年来，大型扩散模型，如DALL-E2和StableDiffusion，因其生成高质量、逼真的图像以及执行各种图像合成和编辑任务的能力而受到认可。但是，人们对用户友好的生成式AI模型的潜在滥用也越来越担忧，这些模型可能会导致不适当或有害的数字内容的创建。例如，恶意行为者可能利用公开分享的个人照片，通过使用现成的扩散模型，出于恶意目的对其进行编辑。