医学研究者发出紧急警告:AI生成大量健康虚假信息
**划重点:**
1. 🚨 医学研究表明,生成式人工智能(Generative AI)可轻松制造大量健康虚假信息,引发社区关切。
2. 🌐 通过使用Generative AI工具,研究团队在短短一小时内生成了超过100篇具有误导性的博客、20张欺骗性图片,以及一段令人信服的深度伪造视频,声称健康虚假信息。
3. 🛡️ 专家呼吁政府和行业制定规范,以保护社区免受这些工具滥用的潜在危害,同时提倡医疗保健专业人士积极参与AI监督。
医学研究者们发出紧急警告,指出生成式人工智能(Generative AI)有可能轻松制造大量健康领域的虚假信息,对社区的健康和福祉构成威胁。
这一警告来自于对生成式 AI技术进行测试的Flinders大学医学研究团队,他们使用这一前沿技术来检验虚假健康信息的制作和传播过程,而测试结果让研究者们自己也感到震惊。
图源备注:图片由AI生成,图片授权服务商Midjourney
在这项研究中,研究团队试图使用生成式AI工具,包括文本、图像和视频生成,制造关于吸烟替代产品(vaping)和疫苗的虚假信息。令人担忧的是,在短短一个小时内,他们就制作出超过100篇误导性的博客、20张欺骗性图片,以及一段深度伪造视频,声称有关健康的虚假信息。更糟糕的是,这段视频可以轻松转化成40多种语言,扩大其潜在危害。
Bradley Menz,这项研究的第一作者、注册药剂师和Flinders大学的研究员,对研究结果表示了严重关切。他指出,社会正站在人工智能革命的风口浪尖,但在实施过程中,政府必须制定规定,以最小化这些工具被滥用的风险,以误导社区。他表示:“我们的研究表明,目前可以获得的人工智能工具轻松生成大量关于重要健康主题的胁迫性和有针对性的误导性内容,包括数百篇虚构的临床医生和患者证言以及虚假但令人信服的引人注目的标题。”
研究还探讨了OpenAI的GPT Playground以及其他公开可用的生成式 AI平台,如DALL-E2和HeyGen,用于生成图像和视频内容。在GPT Playground中,研究人员在短短65分钟内生成了102篇不同的博客文章,包含超过17,000字的有关疫苗和吸烟替代产品的虚假信息。此外,在5分钟内,利用AI头像技术和自然语言处理,团队生成了一段令人担忧的深度伪造视频,其中一位健康专业人士宣传有关疫苗的虚假信息。这段视频可以轻松转化成40多种不同的语言。
研究除了展示令人担忧的场景外,还强调了强化AI监管的紧迫性。同时,研究凸显了医疗保健专业人士在积极减少和监控由人工智能生成的误导性健康信息风险方面的重要作用。
Ashley Hopkins博士,医学与公共卫生学院的高级作者,表示AI开发人员有必要与医疗保健专业人士合作,确保AI监管结构专注于公共安全和福祉。他指出:“我们已经证明,当AI工具的防护不足时,迅速生成多样化且大量令人信服的虚假信息的能力是深远的。现在,迫切需要透明的流程来监测、报告和修复AI工具中的问题。”
Relevance AI:让每个团队都拥有自己的AI同事
澳大利亚初创公司RelevanceAI推出了一款低代码平台,旨在帮助企业建立自定义AI团队,提高生产力。该平台已成功筹集1000万美元的A轮融资,由KingRiverCapital领投,全球投资者PeakXV、GalileoVenture和InsightPartners等参与。站长网2023-12-12 10:19:050000iPhone 15 Pro迎来最强功能 操作按钮体验接近一台便携式电脑
近日,苹果发布最新一代旗舰机iPhone15Pro。这款升级后的新机型在外观设计、性能硬件等多个方面都有提升,但最让用户惊喜的还是操作按钮这个看似不起眼的新功能。操作按钮位于iPhone15Pro机身左侧,取代了此前所有iPhone型号上都配备的静音开关。乍看之下,这个小小的按钮似乎没什么特别之处,但其背后蕴含的可编程性为iPhone解锁了无限可能。站长网2023-09-26 10:27:290000螺旋形状控制网图像Illusion Diffusion:Hugging Face空间的创新之光
最近,一套基于螺旋形状的控制网图像在网络上引发了热潮。这种独特的螺旋形状风格成为了网友们关注的焦点,而令人惊讶的是,这个风格是由HuggingFace空间创造出来的。这一系列螺旋控制网图像以其独特性和创新性引发了广泛的关注和讨论。项目地址:https://huggingface.co/spaces/AP123/IllusionDiffusion站长网2023-09-19 11:59:400000AI奥林匹克数学奖推出 奖金高达500万美元
要点:陶哲轩支持的AI奥林匹克数学奖推出,奖金高达500万美元,旨在寻找能够在IMO竞赛中获得金牌的大型AI模型。AI-MO大赛要求参赛AI模型具备与人类相同的数学解题格式和生成可读答案的能力,由IMO标准评分,金牌水平的AI将获得500万美元大奖。站长网2023-11-28 18:09:420001Output 推出 Co-Producer:AI 驱动的 Pack Generator 为音乐制作人提供探索灵感的新途径
音乐创作软件公司Output今天宣布推出Co-Producer,这是一项生成式AI技术,旨在增强音乐制作中的人类创造力,而非取代它。Co-Producer的首个工具是PackGenerator,它允许任何人通过简单的文本提示创建独特的免版税样本包。0000