加拿大发布关于生成式AI系统的自愿行为准则
划重点:
1. 📜 加拿大发布自愿行为准则:加拿大政府发布了有关生成式人工智能系统的自愿行为准则,旨在规范该技术的发展与使用。
2. 🧐 准则内容概述:准则要求开发者和管理者在系统开发中承担责任、确保安全性、公平与公正,提高透明度、进行人工监督和监控,并确保系统有效性与健壮性。
3. 🌐 影响与法律修正:这一准则可能影响到加拿大的生成式AI系统开发和维护,同时也可能影响到有关人工智能法律的修订,以更好适应技术发展。
加拿大政府最近发布了一份关于生成式人工智能系统的自愿行为准则,旨在规范这一新兴技术的发展与使用。这一准则对生成式AI系统的开发者和管理者提出了一系列要求,以确保其发展与运营在公平、安全、透明、有人工监督和有效性方面达到一定标准。

图源备注:图片由AI生成,图片授权服务商Midjourney
这一自愿行为准则涵盖了多个关键方面,包括责任、安全、公平与公正、透明度、人工监督和监控,以及有效性与健壮性。以下是准则的主要要点:
问责制:准则要求所有生成式AI系统的开发者和管理者建立全面的风险管理框架,包括政策、程序和培训。对于创建公共使用的生成式AI系统,还需要在发布之前采取多重防御措施,如第三方审计。
安全:生成式AI系统的开发者和管理者需要进行全面的风险评估,包括可能的不当或恶意使用风险。他们还需要采取适当的措施来减轻已识别的风险,并向下游开发者和管理者提供适当的系统使用信息以及减轻措施。
公平与公正:特别适用于所有生成式AI系统的开发者,包括公共使用的系统。他们需要评估和策划用于培训的数据集,以管理数据质量和潜在偏见,并在发布AI系统之前实施多样化的测试方法和措施,以评估和减轻输出的偏见风险。
透明度:准则要求公共使用的生成式AI系统的开发者发布有关系统能力和限制的信息,并实施可靠和免费的检测生成内容的方法,重点关注音频-视觉内容。同时,他们需要公开描述用于开发系统的培训数据类型以及识别和减轻风险的措施。
人工监督和监控:开发者需要在部署后维护有关已报告事件的数据库,并提供更新以确保有效的减轻措施。管理者需要在系统发布后监控其操作,以防止有害使用或影响,并采取第三方反馈渠道和实施使用控制以减轻危害。
有效性与健壮性:生成式AI系统的开发者需要在部署之前使用各种测试方法来衡量性能和确保健壮性,包括采用对抗性测试来识别漏洞,评估网络安全风险并实施适当的措施来减轻风险,以及基准测试以衡量模型的性能。
这一自愿行为准则已经得到了许多知名机构的签署,表明其在当前加拿大生成式AI系统开发和维护框架中的重要性。
此外,这一准则还可能影响到有关《人工智能与数据法案》(AIDA)的修订,使其更加结构化和具体化,以适应技术的发展。当前,AIDA法案已经在工业与技术委员会审议中,加拿大政府提出了一系列修改,包括明确定义“高影响”系统类别、为通用AI系统制定特定义务、加强AI系统价值链的区分、明确拟议AI专员的角色,并进行与欧盟和其他OECD法域立法一致的修改,以确保加拿大企业能够与其他法域互操作并进入国际市场。
董明珠计划办选秀 前10名可参加家宴:将亲自下厨
格力电器董事长董明珠在最近的一次采访中,不仅展现了对自家产品质量的坚定信心,还分享了格力如何通过技术创新和卓越品质赢得消费者信任的经验。董明珠表示,许多消费者因为信赖格力的品质,甚至直接拨打她的电话来咨询或解决问题。站长网2024-05-15 17:27:410000报道称,Tumblr 所有者正在与 OpenAI 和 Midjourney 就训练数据达成协议
划重点:-💡Tumblr和WordPress.com的所有者Automattic正与AI公司Midjourney和OpenAI就提供用户帖子的训练数据进行谈判。-💡据报道,Automattic计划推出一个新设置,允许用户选择退出与第三方(包括AI公司)的数据共享。站长网2024-02-28 09:56:100000《西部世界》真来了!斯坦福爆火「小镇」开源,25个AI智能体恋爱交友|附保姆级教程
【新智元导读】斯坦福25个AI智能体「小镇」终于开源了,GitHub狂揽1.4k星,《西部世界》即将走进现实。准备好,此前曾轰动整个AI社区的斯坦福智能体小镇,现在已经正式开源!项目地址:https://github.com/joonspk-research/generative_agents在这个数字化的「西部世界」沙盒虚拟城镇中,有学校、医院、家庭。站长网2023-08-10 13:58:460003马斯克的xAI,向特定用户发布第一款AI产品
11月3日晚,马斯克在社交平台宣布,其新成立的xAI人工智能公司,在11月4日向特定用户发布第一款产品,并声称“在某些重要方面,这是目前存在最好的。”根据xAI官网的介绍和马斯克与OpenAI的“恩怨”来看,xAI发布的可能是一款类ChatGPT产品,能生成各种文本、代码、总结内容等,帮助企业实现降本增效。站长网2023-11-04 10:59:470000苹果以强化版 M3 芯片和新款 Mac 瞄准人工智能和游戏领域
站长之家(ChinaZ.com)10月31日消息:在经历了多个财季的销售下滑后,计算机制造商现在正致力于提高产品性能以吸引消费者。尽管市场领导者继续投资创新,但近期技术供应商的销售额下降了20%或更多。在这种背景下,苹果公司今天宣布了其最新的M3芯片系列,旨在为MacBookPro和iMac系列带来前所未有的性能提升。站长网2023-10-31 09:47:020000