艺术家现在可以通过 Nightshade 来反击人工智能:保护其作品免受 AI 模型训练的侵犯
站长之家(ChinaZ.com) 10月24日消息:新工具 Nightshade 赋予艺术家一种全新的力量,让他们能够在上传作品之前,对其像素进行不可见的修改,从而在作品被 AI 公司用于训练模型时,令生成的模型陷入混乱和不可预测的状态。
Nightshade 的设计初衷是为了反击那些未经创作者许可就使用其作品训练模型的 AI 公司。这种「毒害」训练数据的做法可以破坏未来的图像生成 AI 模型的迭代版本,比如 DALL-E、Midjourney 和 Stable Diffusion,使其输出的结果变得毫无用处——狗变成猫,汽车变成牛等。MIT 科技评论独家预览了这项研究,并提交给了计算机安全会议 Usenix 进行同行评审。
AI 公司如 OpenAI、Meta、Google 和 Stability AI 正面临艺术家的一系列诉讼,艺术家们声称自己的受版权保护的材料和个人信息在未经同意或未获得补偿的情况下被抓取。本工具的创造者、芝加哥大学的教授 Ben Zhao 表示,他希望 Nightshade 能够帮助将权力从 AI 公司重新移回艺术家手中,从而创建一种强有力的威慑力,防止侵犯艺术家的版权和知识产权。
Zhao 的团队还开发了另一种工具,名为 Glaze,它允许艺术家「掩盖」自己的个人风格,防止被 AI 公司抓取。Glaze 的工作方式与 Nightshade 类似:通过以肉眼不可见的方式改变图片的像素,使机器学习模型将图像解释为与其实际显示的内容不同的东西。
该团队计划将 Nightshade 整合到 Glaze 中,艺术家可以选择是否使用这种数据毒害工具。团队还打算开放 Nightshade 的源代码,让其他人可以对其进行修改并制作自己的版本。Zhao 表示,越多的人使用它并制作自己的版本,这个工具就会变得越强大。大型 AI 模型的数据集可能包括数十亿的图像,因此被抓取到模型中的「毒害」图像越多,这种技术就会造成越大的破坏。
Nightshade 开创了一种新的攻击方式,利用生成 AI 模型的一个安全漏洞——它们是基于从互联网上搜集的大量数据(在这种情况下是图像)进行训练的。Nightshade 对这些图像进行了篡改。开发者希望通过 Nightshade 的推出,能够迫使 AI 公司更加尊重艺术家的权利,例如愿意支付版税等。
真全面屏迈入1.5K分辨率时代!曝中兴首发新一代屏下前摄方案
快科技12月2日消息,对于追求真全面屏”的用户来说,屏下前摄无疑是最好的解决方案;不过遗憾的是,目前绝大部分厂商都使用的是挖孔屏,苹果还在使用胶囊屏”,国内坚持在自家手机上采用屏下镜头的只有中兴系一家。博主数码闲聊站透露,中兴系正在测试1.5K高分辨率前摄方案,屏幕供应商是京东方,明年正式商用。相比行业主流的1.5K、2K挖孔屏方案,目前商用的屏下前摄技术,其屏幕分辨率还不到1.5K。0000荣耀赵明:首款小折叠Flip手机今年推出
在最近的荣耀2024春季旗舰新品发布会后,荣耀CEO赵明接受了媒体的采访,并透露了一个令人期待的消息:荣耀计划在2024年推出一款小折叠的Flip产品。赵明在采访中详细阐述了荣耀对于这款小折叠产品的定位和期待。他表示,荣耀做小折叠产品将延续其一贯的价值主张和产品思维,致力于给行业带来与众不同的产品体验。荣耀始终注重创新和独特性,致力于为消费者提供真正有价值的产品。站长网2024-03-19 17:25:060000Anthropic发布新方法 通过提示降低生成式AI偏见
**划重点:**1.📄Anthropic发布了一项方法,通过提示工程降低公司使用大型语言模型的输出中的歧视。2.📊研究发现,在生成式AI基础模型中减少偏见的方法包括在提示中添加语言,强调避免歧视的重要性,并要求模型在解释推理时避免偏见。3.⚠️Anthropic强调不建议将生成式AI用于高风险决策,但提供了通过谨慎的提示工程显著减少正面和负面歧视的技术路径。0000百度:2023年Q1共清理各类有害信息154.9亿余条
近日,百度对外公布2023年第一季度信息安全综合治理数据。百度内容安全中心在该周期内共计清理各类有害信息154.9亿余条。其中,通过人工智能技术挖掘并打击以淫秽色情类、赌博类等为主的相关有害信息共154.7亿余条,通过人工巡查的方式打击以淫秽色情类、侵权类等为主的相关有害信息共计2179.5万余条。站长网2023-07-05 18:20:1700005999-9999元起!iPhone 15四款机型硬件成本出炉:苹果售价或不算贵
快科技10月17日消息,iPhone15系列已经快发售一个月了,从实际售卖情况来看,其在中国的首轮销量表现不及前作iPhone14,这更多的是因为Mate60的出现。现在,《日经新闻》发布了iPhone15系列的硬件成本,而iPhone15ProMax是苹果公司史上成本最高昂的手机。站长网2023-10-18 11:27:010000