专家称:OpenAI 视频生成器Sora可能会助长虚假宣传和偏见
划重点:
- 🤖 新发布的 OpenAI 视频生成工具 Sora 可以根据用户提示制作长达一分钟的视频。
- 🛡️ 专家担心,这种视频生成器可能加剧互联网不实信息和政府宣传,使真假内容之间的界限更加模糊。
- 🔒 OpenAI 已经采取措施防止滥用 Sora,但专家仍担心其可能产生深度伪造视频。
OpenAI 最新推出的视频生成工具 Sora 展示了一个阳光普照的达尔马提亚狗蹑手蹑脚地走过窗台、一场中国新年游行席卷城市街道、一名考古学家在沙漠沙地上挖掘出一把椅子。这些视频是在线发布的,但实际上并没有发生。它们构成了 OpenAI 最新推出的视频生成工具 Sora 公开提供的第一个作品。
Sora 可以根据用户提示制作长达一分钟的视频,就像 ChatGPT 会以文字回复、Dall-E 会提供图像一样。目前,视频生成器正在一组产品测试人员中使用,但尚未向公众开放,OpenAI 在周四的一份声明中表示。
专家表示,这些产品有望改进和简化视频叙事,但也可能加剧互联网不实信息,增强政府宣传,使网络上已经模糊的真假内容之间的界限更加模糊。
与此同时,人工智能生成的视频可能会强化从生成这些内容的训练材料中获取的仇恨或偏见观点,他们补充说。专家对 OpenAI 采取的措施以防止滥用 Sora 表示关注。
不过,OpenAI 指向了一篇网页,详细介绍了公司为防止 Sora 滥用所采取的措施。根据公司网站的说法,OpenAI 计划采取一些重要的安全措施,以避免 Sora 的滥用。
专家HIA表示,难以评估尚未向普通公众发布的演示产品。然而,他们对视频生成器的滥用机会和实施完全有效保护措施的挑战表示担忧。
AI 生成的内容的风险在近几周内引起了广泛关注。今年1月底,一组虚假的、涉及泰勒・斯威夫特 (Taylor Swift) 的 AI 生成色情图片在社交媒体上走红,获得了数百万次浏览。上个月,一条冒充美国总统乔・拜登 (Joe Biden) 声音的虚假电话呼叫劝阻人们不要在新罕布什尔州初选中投票。
专家赞扬了 OpenAI 为阻止 Sora 的滥用所采取的措施。他们警告说,这种产品可能具有创作深度伪造视频的能力,并且很难防止这样的视频出现。随着 OpenAI 为 Sora 实施的安全措施,如检测分类器和数字水印,专家对其表示肯定,但也提醒视频可能会被复制或更改以移除标签。人们将设法规避设置的防护栏,这将成为一场军备竞赛。
Unity 推出 AI Hub 市场和帮助游戏开发的 AI 驱动创意解决方案
Unity距离建立自己的AI生态系统又近了一步。该公司推出了新工具和专门的市场,帮助游戏开发者利用人工智能技术。图片来自Unity在6月27日发布的新博文中,Unity宣布其平台将推出全新的AI驱动创意解决方案。除此之外,该公司还详细介绍了在UnityAssetStore中推出人工智能市场的情况。AI软件市场站长网2023-06-29 11:34:510000异曲同工之妙!周鸿祎称Sora工作原理像人做梦
近日,OpenAI推出了其首款文生视频模型——Sora模型,引发了业界的广泛关注。这款模型具有惊人的能力,它可以根据用户提供的文字描述,生成长达1分钟的高清流畅视频。不仅如此,Sora还能利用现有的静态图像生成视频,甚至可以对现有视频进行扩展和填充缺失内容。从已展示的效果来看,Sora生成的视频场景逼真、细节真实,令人叹为观止。站长网2024-02-20 11:34:560000海底捞将推行加盟特许经营模式:已开放加盟通道
快科技3月4日消息,据媒体报道,海底捞国际控股有限公司(简称海底捞”)发布公告称将推行海底捞餐厅的加盟特许经营模式,以多元经营模式进一步推动餐厅网络的扩张步伐。公告显示,餐饮行业近年来在连锁化经营、加盟模式上不断开拓、创新成长,海底捞认为目前按照以直营为主、适时引入加盟特许模式,将有助于公司实现进一步的适度扩张。站长网2024-03-05 12:44:390000“宝妈”涌入探店大军
成为两个孩子的全职宝妈四年后,王双双(化名)决定回归职场,重新赚钱。王双双生于1986年,2007年大学毕业后,在吉林长春的一家公司做了十余年的财务工作。2019年,随着第二个孩子的降生,她辞掉工作,回家带娃。她很快发现,日复一日的照顾孩子和家庭,让自己的生活空间变得逼仄。“家庭的框架把我封住了,跟外界很少接触。”她说,“感觉自己都社恐了。”站长网2023-08-26 16:04:470000游戏时光 VGtime 编辑全员离职 或将彻底停运
近日,游戏网站VGtime游戏时光发布公告称,最后三名编辑被开除。根据VGtime官方微博发布的消息,编辑部的最后三名编辑于上周五被资方开除,VGtime的整个团队,包括创始成员在内的所有编辑,也已经主动或者被动地离职。VGtime表示,这次悲剧的导火索是资方试图在网站引入自动抓取脚本,降低成本,以代替编辑们多年来对原创内容的追求。然而,编辑部对此发起了反对,这导致了双方的矛盾激化。站长网2023-04-24 09:42:480001