科技公司担忧,澳大利亚新标准或削弱AI保护在线安全能力
划重点:
1. 澳大利亚新发布的在线安全标准,被科技公司如微软、Meta等指责可能影响AI系统保护儿童安全和防范恐怖主义材料的效能。
2. 标准针对生成式人工智能(generative AI)潜在的滥用潜力,但微软等公司表示其侦测有问题内容的能力可能受损。
3. 技术公司担心新标准可能使AI训练受限,降低其对儿童虐待和恐怖主义材料的精准侦测,强调AI在内容审查中的关键作用。
澳大利亚近期发布的新在线安全标准引起了科技公司的担忧,特别是微软、Meta和Stability AI等。这些标准旨在规范生成式人工智能(generative AI)等技术,以防止其被滥用,但科技公司担心这可能对其AI系统的保护在线安全的能力产生负面影响。
根据去年监管机构发布的两项旨在保护儿童安全的强制性标准草案,澳大利亚的eSafety专员朱莉·英曼·格兰特(Julie Inman Grant)提出,服务提供商应在技术上可行的情况下检测和删除儿童虐待材料和恐怖主义材料,同时阻止和威慑这类新材料。这些标准覆盖了多种技术,包括网站、云存储服务、短信和聊天应用,还包括高影响的生成式人工智能服务和开源机器学习模型。
图源备注:图片由AI生成,图片授权服务商Midjourney
在对这些标准进行的咨询中,WeProtect Global Alliance等一百多个政府和七十家公司的非营利联盟强调了eSafety试图解决的问题的本质。他们表示,开源AI已经被用于制作儿童虐待材料和深度伪造,而提议的标准涵盖了正确的平台和服务。
然而,微软、Meta和Stability AI等科技公司则表示,他们的技术正在开发中,已经设置了防范措施,以防止其被用于不当目的。微软警告说,草案中的标准可能限制其用于侦测和标记儿童虐待或恐怖主义材料的AI安全模型的效力。微软表示,确保AI模型和安全系统(如分类器)能够被训练来检测和标记这类内容,需要让AI接触这类内容,并建立评估流程来衡量和减轻风险。
Stability AI同样警告说,AI将在在线内容审查中发挥重要作用,过于宽泛的定义可能使确定必须符合拟议标准的内容变得更加困难。
Meta公司表示,虽然其Llama2模型配备了安全工具和负责任的使用指南,但在工具下载后很难执行防护措施。Google建议在标准中不包含AI,而是将其完全视为当前政府对在线安全法和基本在线安全期望进行审查的一部分。
最终版本的标准将在今年晚些时候提交国会审议。英曼·格兰特在一份声明中表示,这些标准不会要求行业破坏或削弱加密,监视文本或无差别地扫描大量个人数据。她正在考虑对此进行澄清的可能修订。
Trickle:利用GPT-4推理能力识别截图关键信息
Trickle是一个支持GPT-4人工智能推理能力的截图集中管理平台,能够将你杂乱无章的截图转变成有价值的视觉备忘录。Trickle通过AI的文本理解与生成能力,不仅可以为你的每张截图生成概要,还能深入解码截图的本质,找到真正重要的信息。它可以自动归类和整理那些杂乱无章的截图,让你随时搜索和检索。更令人惊叹的是,你还可以用自然语言提问,Trickle会为你找到所需的答案。站长网2023-09-14 21:35:590000迪拜将举办“全球AI挑战赛”,冠军可获近200万元奖金
划重点:-迪拜将举办“全球AI挑战赛”,冠军奖金高达100万迪拉姆。-这是一项以生成式人工智能为重点的竞赛,旨在推动迪拜成为全球领先的人工智能创新中心。-挑战赛将于明年五月在迪拜的未来博物馆举行。站长网2023-11-06 15:39:320000工联院大模型测评:文心一言在工业领域表现超过GPT3.5
近期,中国工业互联网研究院针对人工智能大模型在中文工业领域的知识问答能力进行系统性评测。结果显示,百度文心一言表现超过GPT3.5,综合评价指数在国内排名第一。工联院本次评测选取了工业领域典型的八大行业。百度文心一言在电子设备、装备、钢铁、采矿、电力、石化、建材等七大行业均获国内第一。站长网2023-06-29 19:26:300000学生起诉丰巢退还1元保管费获法院支持
站长之家(ChinaZ.com)3月7日消息:据南方都市报报道,上海大学法学院研究生艾震因一元快递保管费问题,将深圳市丰巢科技有限公司告上了法庭。经过法院的审理,艾震于3月5日收到了深圳前海合作区人民法院的判决书,法院对其诉求表示支持。然而,丰巢科技在3月6日表示,已对判决进行上诉。站长网2024-03-07 16:42:500000主编温静丨今天发生了什么?
重要消息文化和旅游部印发《幼儿园与娱乐场所、互联网上网服务营业场所最小距离及测量方法典型案例的通知》:为贯彻落实《中华人民共和国未成年人保护法》,推动“幼儿园周边不得设置娱乐场所、互联网上网服务营业场所”政策有效落地,在前期地方报送的落实举措基础上,文化和旅游部遴选出部分可供借鉴的典型案例。活动典礼站长网2023-05-24 15:18:340000