加拿大发布关于生成式AI系统的自愿行为准则
划重点:
1. 📜 加拿大发布自愿行为准则:加拿大政府发布了有关生成式人工智能系统的自愿行为准则,旨在规范该技术的发展与使用。
2. 🧐 准则内容概述:准则要求开发者和管理者在系统开发中承担责任、确保安全性、公平与公正,提高透明度、进行人工监督和监控,并确保系统有效性与健壮性。
3. 🌐 影响与法律修正:这一准则可能影响到加拿大的生成式AI系统开发和维护,同时也可能影响到有关人工智能法律的修订,以更好适应技术发展。
加拿大政府最近发布了一份关于生成式人工智能系统的自愿行为准则,旨在规范这一新兴技术的发展与使用。这一准则对生成式AI系统的开发者和管理者提出了一系列要求,以确保其发展与运营在公平、安全、透明、有人工监督和有效性方面达到一定标准。
图源备注:图片由AI生成,图片授权服务商Midjourney
这一自愿行为准则涵盖了多个关键方面,包括责任、安全、公平与公正、透明度、人工监督和监控,以及有效性与健壮性。以下是准则的主要要点:
问责制:准则要求所有生成式AI系统的开发者和管理者建立全面的风险管理框架,包括政策、程序和培训。对于创建公共使用的生成式AI系统,还需要在发布之前采取多重防御措施,如第三方审计。
安全:生成式AI系统的开发者和管理者需要进行全面的风险评估,包括可能的不当或恶意使用风险。他们还需要采取适当的措施来减轻已识别的风险,并向下游开发者和管理者提供适当的系统使用信息以及减轻措施。
公平与公正:特别适用于所有生成式AI系统的开发者,包括公共使用的系统。他们需要评估和策划用于培训的数据集,以管理数据质量和潜在偏见,并在发布AI系统之前实施多样化的测试方法和措施,以评估和减轻输出的偏见风险。
透明度:准则要求公共使用的生成式AI系统的开发者发布有关系统能力和限制的信息,并实施可靠和免费的检测生成内容的方法,重点关注音频-视觉内容。同时,他们需要公开描述用于开发系统的培训数据类型以及识别和减轻风险的措施。
人工监督和监控:开发者需要在部署后维护有关已报告事件的数据库,并提供更新以确保有效的减轻措施。管理者需要在系统发布后监控其操作,以防止有害使用或影响,并采取第三方反馈渠道和实施使用控制以减轻危害。
有效性与健壮性:生成式AI系统的开发者需要在部署之前使用各种测试方法来衡量性能和确保健壮性,包括采用对抗性测试来识别漏洞,评估网络安全风险并实施适当的措施来减轻风险,以及基准测试以衡量模型的性能。
这一自愿行为准则已经得到了许多知名机构的签署,表明其在当前加拿大生成式AI系统开发和维护框架中的重要性。
此外,这一准则还可能影响到有关《人工智能与数据法案》(AIDA)的修订,使其更加结构化和具体化,以适应技术的发展。当前,AIDA法案已经在工业与技术委员会审议中,加拿大政府提出了一系列修改,包括明确定义“高影响”系统类别、为通用AI系统制定特定义务、加强AI系统价值链的区分、明确拟议AI专员的角色,并进行与欧盟和其他OECD法域立法一致的修改,以确保加拿大企业能够与其他法域互操作并进入国际市场。
OpenAI首席执行官奥特曼称人类级别的AI即将出现
站长之家(ChinaZ.com)1月17日消息:近日,在瑞士达沃斯世界经济论坛上,OpenAI首席执行官萨姆·奥特曼表示,对于人工智能有一天将变得非常强大,对世界产生巨大重塑和破坏的担忧是夸大其词的。站长网2024-01-17 10:56:440000MyShell多语言、多口音文本转语音库MeloTTS开源
近日,MyShell公司宣布其多语言、多口音的文本转语音库MeloTTS正式开源。这一消息在开源社区引起了广泛关注。MeloTTS支持的语言包括英语、西班牙语、法语、中文、日语和韩语,为开发人员提供了丰富的选择。试玩地址:https://top.aibase.com/tool/melotts站长网2024-03-08 13:28:270000百度地图上线地铁车厢温度提示:全国100%实时覆盖!
地铁虽然是非常方便的交通工具,但地铁上的空调却对很多人来说不是那么友好。尤其是夏季,为了防臭”等目的,空调温度一般都设定的比较低,但这就让不少人有些接受不了,甚至坐个地铁都能坐感冒。对此,很多城市都推出了双温车厢”服务,比如北京地铁从6月1日已经全面启动,在列车不同位置分别设置强冷、弱冷车厢供乘客选择。不过各个线路的车厢安排并不相同,这也让乘客非常费解,如果着急赶路很难去找到对应车厢。站长网2023-06-20 16:17:550000ChatGPT 在意大利恢复上线 但 OpenAI 在欧盟的监管麻烦才刚刚开始
OpenAI此前成功安抚了意大利数据机构,解除了该国对ChatGPT的禁令,但其在与欧洲监管机构的斗争仍远未结束。站长网2023-05-08 11:19:090001澳大利亚政府成立AI版权参考小组,应对人工智能与版权挑战
**划重点:**1.📚澳大利亚政府成立参考小组关注人工智能与版权问题,特别关注AI模型训练中使用的受版权保护的材料。2.🌐快速增长的生成式AI技术引发版权混乱,多起诉讼已经展开,包括对ChatGPT的指控,使政府意识到迫切需要制定应对策略。3.⚖️不同国家法院对AI生成内容是否享有版权保护存在分歧,澳大利亚政府积极与利益相关方合作,努力平衡AI发展和创意产业利益。站长网2023-12-05 11:23:580000