澳大利亚新法规要求科技公司消除AI生成的虐待儿童图像
文章概要:
1. 澳大利亚新法规要求科技巨头如Google、Microsoft和DuckDuckGo从搜索结果中清除虐待儿童材料,并防止生成深度伪造图像。
2. 电子安全专员Julie Inman Grant表示,科技公司需减少产品带来的危害,包括检测深度伪造图像,以提高在线安全。
3. 新法规要求搜索引擎定期审查和改进AI工具,以确保不返回“1A类”材料,包括儿童性虐待、恐怖主义和极端暴力材料。
根据最新的报道,澳大利亚正在引入一项新的法规,要求科技巨头如Google、Microsoft的Bing和DuckDuckGo等搜索引擎公司采取措施,清除搜索结果中的虐待儿童材料,并防止生成深度伪造图像。这一法规旨在应对人工智能工具可能生成虐待儿童图像和恐怖主义宣传的问题。
澳大利亚电子安全专员Julie Inman Grant表示,科技公司需要在减少其产品可能带来的危害方面发挥主导作用。她指出,目前已经出现了合成虐待儿童材料,并称恐怖组织正在使用生成式人工智能来制作宣传材料,这已经成为现实,不再是幻想。因此,有必要采取行动。
图源备注:图片由AI生成,图片授权服务商Midjourney
根据新的法规,搜索引擎公司将被要求定期审查和改进其人工智能工具,以确保不返回“1A类”材料,包括儿童性虐待、恐怖主义和极端暴力材料。此外,这些公司还必须研究技术,帮助用户检测和识别可从其服务访问的深度伪造图像。这一法规被认为是世界上第一批类似框架之一。
Julie Inman Grant形容人工智能的迅猛发展为一场“军备竞赛”,并表示这一技术的演变“让大多数政策制定者、监管机构和国家措手不及”。她认为,对于生成式人工智能,监管工具的使用需要有不同的思考方式,并强调监管审查必须从设计和部署阶段开始,而不是问题出现后才采取应对措施。
在这一背景下,新法规要求科技公司从一开始就将进一步监管这些工具的规定纳入其中,而不是在问题出现后进行应对,这种情况类似于汽车制造商被要求安装安全带。Julie Inman Grant表示,这种做法对科技行业是有商业意义的,现在科技行业需要类似于“安全带时刻”的规定。
电子安全专员还表示,监管机构已经意识到一些不良分子正在利用新的人工智能工具进行非法活动,包括生成虐待儿童材料。新规则将迫使科技公司不仅要减少其平台上的危害,还要致力于构建工具,促进更高的在线安全,例如检测深度伪造图像。
澳大利亚总检察长Mark Dreyfus在议会上宣布,澳大利亚联邦警察正在使用人工智能来检测虐待儿童材料,而不再依赖手动审查照片。这一倡议的新工具呼吁成年人提交自己儿童时期的照片,以帮助训练人工智能模型,从而更好地应对虐待儿童材料问题。
Meta旗下Threads注册用户数量突破3000万
自周三晚间推出以来,Meta旗下Threads应用注册用户数量已经突破了3000万,而且这个数字还在不断上升。这个数字虽然还远远小于Twitter和Instagram等主要社交网络的用户群,但在应用发布首日就能吸引到如此多的用户注册加入,无疑是一个非常出色的表现。站长网2023-07-08 17:01:060001Mate60 RS版来了!华为今天将举行新品发布会
华为今天将举行新品发布会,其中包括备受期待的Mate60RS版本。根据泄露的信息,Mate60RS在设计上沿用了Mate60Pro的风格,Mate60RS配备了麒麟9000S处理器,并且拥有16GBRAM和1TB存储空间。这款手机的一大亮点是支持卫星通话功能,为用户在任何环境下都能保持通讯畅通。此外,Mate60RS还提供了玄黑配色,并预计屏幕尺寸为6.82英寸。站长网2023-09-25 11:01:310000谷歌合并AI研究实验室Google Brain 和 DeepMind
谷歌已将其人工智能研究实验室GoogleBrain和DeepMind合并为一个名为GoogleDeepMind的新部门。新团队将专注于突破性的人工智能产品和进步,同时保持道德标准,使公司能够与OpenAI竞争。站长网2023-04-21 10:25:180000微软、谷歌测试人工智能搜索广告的策略激怒广告主
广告购买者告诉路透社,Alphabet的谷歌和微软正在将广告插入人工智能实验,但没有提供选择退出参与的选项,这种做法已经激怒了一些品牌,并有可能遭到行业的进一步抵制。根据市场研究公司MAGNA的数据,这两家科技巨头正竞相利用人工智能改进他们的搜索引擎,以产生对开放式问题的书面回答。预计今年搜索结果广告市场规模将增长10%,达到2860亿美元。站长网2023-06-11 22:41:490000科大讯飞星火认知大模型V3.0正式发布 对标ChatGPT 3.5
在今日的2023科大讯飞全球1024开发者节上,科大讯飞宣布,讯飞星火认知大模型V3.0正式发布,目前星火大模型已整体超越ChatGPT。科大讯飞董事长刘庆峰表示,今年的5月6号,讯飞星火正式发布,到现在为止已经历经了两次升级。讯飞星火3.0,它的标志是通用模型,要对标ChatGPT3.5,中文超越,英文相当。站长网2023-10-25 00:22:340000