麻省理工学院开发“面具”来保护图像免遭人工智能操纵
麻省理工学院的一组研究人员开发了一种名为PhotoGuard的新技术,旨在防止人工智能系统未经授权地操纵图像。
Midjourney 和 Stable Diffusion 等生成式 AI 图像生成模型可用于编辑现有图像 通过修复添加新区域,或剪切对象并将其重新混合到其他图像中,例如将人脸叠加在另一张图像上。
麻省理工学院的科学家们创造了一种本质上是防护罩的东西,能够防止这些模型操纵图像。这些遮罩对于人眼来说是不可见的,当与生成人工智能图像模型交互时,会导致输出出现扭曲。
研究人员在一篇论文中写道:“通过在对手访问原始图像之前对其进行免疫,我们破坏了他们成功执行此类编辑的能力。”
PhotoGuard 可以在MIT 许可下通过GitHub访问——这意味着它可以用于商业用途,但需要保留版权和许可声明。
图片来源:麻省理工学院
据了解,PhotoGuard 的目的是改进 Deepfake 检测。其背后的团队认为,虽然水印方法确实有效,但它们并不能保护图像免遭“首先被操纵”。PhotoGuard 旨在补充水印保护,以“破坏人工智能扩散模型的内部运作”。
随着 DALL-E 和稳定扩散等人工智能图像模型的使用变得越来越普遍,滥用的情况似乎也越来越多,尤其是在社交媒体中。罗恩·德桑蒂斯的选举团队使用人工智能处理的前总统特朗普拥抱福奇博士的图像的案例显示了可能出现问题的早期迹象。
检测人工智能生成的作品的需求正在不断增加——虽然对于那些受过训练的人来说,人工智能生成的图像很容易被发现,但一些研究团队正在努力让它变得更容易。以 DALL-E 和 ChatGPT 制造商 OpenAI 为例,该公司本周承诺继续研究确定一段音频或视频内容是否由人工智能生成的方法,尽管该承诺是在其因性能不佳而关闭其文本检测工具后做出的。
ChatGPT一周年,差点吓死OpenAI
加缪说:真正严肃的哲学问题只有一个,那就是自杀。OpenAI刚刚平息的“政变”,其实就是对“自杀”的一次深入思考。ChatGPT上线满一周年之际,回归OpenAI的阿尔特曼,重新出任CEO。回到原职位的阿尔特曼,也在迎接公司内外部对AI威胁论的新一波审视。站长网2023-11-30 18:15:010000这个五一档,韩寒赢麻了
如果不是这个五一档,大概很多人已经想不起韩寒了。他在大众脑海中的形象,被定格在2022年春节档《四海》的见面会“四海歌会”上。那时,他穿着毛衣,把头发剪成圆寸,戴着黑框眼镜,站在舞台最左侧,卖力地和曾经合作过的演员们合唱,为即将在春节档上映的《四海》宣传。站长网2023-05-07 09:25:440002PBT集团表示,数据质量对训练ChatGPT至关重要
划重点:1.🚀ChatGPT在公开发布近一年后迎来了爆炸性增长,但其广泛应用也引发了一系列问题,包括偏见输出、问题误解、答案不一致、缺乏同理心以及安全问题。2.💼在企业环境中,ChatGPT被广泛应用于增强各种业务流程,如客户服务、邮件起草、个人助理任务、关键词搜索和演示文稿制作。文章强调了对ChatGPT提供准确响应的必要性,特别是需要对公司相关、准确且及时的数据进行培训。站长网2023-11-24 15:48:140000谷歌AI研究提出新的视频注释方法VidLNs 精准定位视频描述
1.VidLNs是一种视频注释方法,通过口述和光标移动来获取语义正确且密集定位准确的视频描述。2.VidLNs使用关键帧来创建每个角色的独立叙述,实现复杂情节的细致描绘。3.VidLNs的数据集可用于视频故事定位和视频问答等任务。站长网2023-08-09 15:00:200000上市即成爆款,热销的华为nova11系列到底有何魔力?太懂年轻人了
作为手机市场的中坚力量,年轻人更倾向于价格适中,但颜值和影像体验出众的机型。比如前段时间首销的华为nova11系列,就凭借超高的颜值和全面升级的影像系统俘获了一众年轻用户,成为持续热销的大爆款。事实上,作为首批入手华为nova11系列的年轻用户,笔者在这半个多月的使用过程中,也感受到了这款手机的独特魅力。图片源自太平洋电脑网站长网2023-05-23 22:05:200000