微软工程师向美国官员和公司董事会发警告:AI图像生成器存在潜在风险
**划重点:**
1. 🤖 微软工程师发警报:公司的人工智能图像生成器工具可能轻易生成冒犯和有害图像。
2. 📄 工程师致信美国监管机构和微软董事会,敦促采取行动,揭示产品安全隐患。
3. 🌐 问题源于Designer工具,可能生成包含不当内容的图像,引发安全和道德争议。
一名微软工程师近日向美国监管机构和公司董事会发出警报,指称公司的人工智能图像生成器工具存在潜在的冒犯和有害图像生成风险。工程师Shane Jones称自己是一名举报者,并在上个月与美国参议院工作人员会面,分享了他的担忧。
根据Jones的信函,他花费了三个月的时间尝试解决他对微软的 Designer工具的安全顾虑。该工具可以根据书面提示生成新颖的图像,其技术基于微软密切合作伙伴OpenAI的DALL-E3图像生成器。Jones在信中指出, Designer存在一个最令人担忧的风险是在生成图像时添加有害内容,即使用户的请求是良性的。
图源备注:图片由AI生成,图片授权服务商Midjourney
Jones在信中列举了其他有害内容,包括暴力、政治偏见、未成年饮酒和药物滥用、滥用企业商标和版权、阴谋论以及宗教等。他曾多次要求公司将该产品从市场撤下,直至安全,或者至少更改智能手机上的年龄评级,以明确产品适用于成熟观众。
微软回应称致力于解决员工对公司政策的关切,并赞赏Jones在研究和测试最新技术以增强安全性方面的努力。微软建议他使用公司的内部报告渠道调查和解决问题。Jones向微软董事会的信中要求启动独立调查,以查明微软是否在向消费者销售产品时隐瞒已知风险。
Jones强调,虽然核心问题出现在OpenAI的DALL-E模型上,但使用OpenAI的ChatGPT生成AI图像的用户不会遇到相同的有害输出,因为两家公司在其产品上覆盖了不同的保护措施。他补充道:“许多 Designer的问题已经在ChatGPT的安全措施中得到解决。”
自2022年起,一系列引人瞩目的AI图像生成器相继登场,包括OpenAI的DALL-E2。这引发了公众对微软和谷歌等科技巨头发布自己版本的商业压力。然而,技术缺乏有效的保护措施,使其存在着一些危险,包括用户轻松生成政治人物、战区或非自愿裸露等有害“深度伪造”图像。此前,谷歌因其Gemini聊天机器人展示的种族和族裔刻板印象而暂停了其生成人物图像的能力。
微软表示,已建议Jones使用内部渠道解决问题,但他表示早前向OpenAI提出问题未果,因此才公开发表对OpenAI的信。他向华盛顿州的州检察长和美国参议院商务委员会介绍了自己的担忧。 Jones在信中强调,问题的核心在于OpenAI的DALL-E模型,而使用OpenAI的ChatGPT生成AI图像的用户则不会遇到相同的有害输出,因为两家公司在其产品上覆盖了不同的保护措施。
电影市场冰火两重天:票房爆火创纪录,投资断档跌入谷底
2023年暑期档电影,不断带来惊喜。先是悬疑犯罪类型电影《消失的她》票房一路领先,突破35亿,再是《八角笼中》、《长安三万里》口碑持续发酵,相继跻身暑期票房榜前三。《封神》十年磨一剑,被寄予厚望。进入8月,暑期档尾声,市场又迎来电影黑马,《孤注一掷》正式上映5天,票房便达到12.92亿元。灯塔专业版票房预测显示,《孤注一掷》最终票房有望超越《消失的她》达到40亿元。站长网2023-08-13 09:26:100000李楠:现在新能源汽车就是2016年手机 厂商们要往死里卷了
快科技12月7日消息,魅族前高管李楠更新了自己的微博,在他看来新能源汽车厂商们往死里卷的时候要来了。我知道你们现在都在看电车,觉得电车是希望。没有错,但是其实现在电车行业,大概相当于2016年的手机行业,已经在往死里卷的前夕了。”李楠说道。李楠认为,今天科技迭代带来的最大红利,真的真的是AI。站长网2023-12-07 22:34:030000ChatGPT重磅升级:可以看图、听声音、说话啦!
美东时间9月25日,OpenAI在官网宣布,对ChatGPT进行重磅升级实现看图、听声音、输出语音内容三大功能。早在今年3月OpenAI发布GPT-4模型时,就展示过看图的功能,但由于安全、功能不完善等原因一直没有开放。现在不仅开放了看图,连识别声音也来了,这是OpenAI实现AGI(通用人工智能)战略重要技术环节。站长网2023-09-26 09:10:160000刚毕业年薪就能到30万!这四大热门专业市场需求很大!
近两年来,国内外互联网企业纷纷卷入裁员大潮,大厂裁员成为了主旋律,各行各业都在“降本增效”,那么当年的四大热门专业现在还值得学习吗?未来的就业前景又是怎样的呢?去年,互联网裁员潮集体爆发,腾讯、阿里巴巴、京东、快手、百度、小米、美团等各大互联网企业无一幸免,多家企业暂时冻结校园招聘!而国外互联网大厂也一样,亚马逊、meta、lyft等也纷纷宣布裁员,社交巨头推特更是裁掉了一半员工!站长网2023-05-23 17:22:540000没绷住,vivo提前“泄密”大模型能力
最卖座的安卓手机,竟然要实装大模型了?!还是发布即可用那种——新版手机系统直接搭载,不整虚的。要知道,虽然国产大模型百花齐放,但手机端“百模大战”,可以说是才刚进入热身阶段。自研大模型的手机厂商已有不少,但真正装进手机系统中的,还几乎没有。搞出这个大新闻的,正是已连续两年国内份额第一的蓝厂vivo。站长网2023-10-20 16:52:240000