研究人员开发过滤器处理不安全的AI生成图像
**划重点:**
1. 📷 AI图像生成器在过去一年变得异常流行,但也带来了不安全图像的问题,包括淫秽和令人不安的内容。
2. 🚫 研究人员通过对四个知名AI图像生成器进行测试,发现其中14.56%的生成图像被定义为“不安全图像”,其中以Stable Diffusion生成器的18.92%最为突出。
3. 🔍 为了解决这一问题,研究人员提出了三种解决方案,包括在训练阶段筛选数据、规范用户输入提示以及在图像生成后分类和删除不安全图像。
近年来,AI图像生成器因其便捷性而变得异常受欢迎,但也引发了一系列问题。在CISPA Helmholtz信息安全中心的研究中,研究员Yiting Qu探讨了这些图像生成器中存在的不安全图像问题,并提出了一种用于解决此问题的过滤器。
她一篇论文中指出,用户通过所谓的文本到图像模型,如Stable Diffusion、Latent Diffusion或DALL·E,可以通过输入特定文本信息生成数字图像。然而,Qu发现一些用户将这些工具用于生成色情或令人不安的图像,尤其是当这些图像在主流平台上广泛传播时,问题更为突出。
为了解决这一问题,研究人员对四个最知名的AI图像生成器进行了测试,包括Stable Diffusion、Latent Diffusion、DALL·E2和DALL·E mini。通过使用特定集合的文本输入提示,其中包括来自4chan和Lexica网站的内容,他们发现在所有生成器中,有14.56%的生成图像被定义为“不安全图像”,而Stable Diffusion的比例最高,达到18.92%。
为了应对这一问题,Qu提出了三种解决方案。首先,开发人员在训练或调整阶段应筛选训练数据,减少不确定图像的数量。其次,规范用户输入提示,例如删除不安全关键词。最后,对于已经生成的不安全图像,需要一种方式对这些图像进行分类和在线删除。这也需要平台上的过滤功能来实现。
Qu指出,尽管防止图像生成是一种方式,但更重要的是沿着文本到图像模型的供应链采取综合性的措施。她表示,自己开发的过滤器在防止不安全图像生成方面取得了更高的命中率,但仍需要在自由和内容安全之间找到平衡。她希望通过这项研究帮助减少未来互联网上流传的有害图像数量。
论文网址:https://techxplore.com/journals/arxiv/
百度Comate智能代码助手上线SaaS版本 适配100种开发语言
百度智能云宣布百度Comate智能代码助手正式上线SaaS版本,可提供10余项编码功能,适配100种开发语言。即日起企业和开发者可前往百度Comate官网体验(https://comate.baidu.com)。站长网2023-10-25 09:26:350000h5修改软键盘文字,将换行改为前往或发送。
怎么修改h5软键盘的文字,将右下角的回车换行更改为前往或发送?文档中很多都是修改为前往,搜索,提交等。修改的属性,其实还是有另外一个属性的:enterkeyhint站长网2023-01-09 09:00:5200059苹果发布iPad 10 eSIM版本 同时推出USBC接口ApplePencil
昨日晚间,苹果发布了iPad10eSIM版本和新款Applepencil。苹果表示,新款iPad(第10代)在大陆首次支持eSIM技术,用户无需使用实体SIM卡即可实现快速、流畅、安全的蜂窝网络连接。相关版本将于10月19日起接受预订,10月25日起正式发售。其中,64GB版本的起售价为4799元,256GB版本的售价为5999元。站长网2023-10-18 21:26:330000马克·扎克伯格的 Meta 发布 Llama2 以针对 Sam Altman 及 OpenAI 展开竞争
站长之家(ChinaZ.com)10月29日消息:自5月份在白宫举行的顶级AICEO聚会上,SamAltman与SatyaNadella和SundarPichai并排而坐以来,马克·扎克伯格的缺席成为了不容忽视的事实。站长网2023-10-29 09:48:520000Ghostbuster:一个准确度高的AI生成文本检测工具
**划重点:**1.🤖大型语言模型如ChatGPT的高效写作引发问题,学生滥用以代写作业,一些学校因此禁用ChatGPT。2.🛠️Ghostbuster是一种先进的AI生成文本检测方法,通过评估各种生成文本的可能性,无需了解具体模型或其概率。3.📊Ghostbuster在多个领域、不同提示和模型上取得了出色的性能,弥补了现有方法的不足,有望在多个应用中发挥作用。站长网2023-11-15 20:26:590004