Anthropic公布AI人工智能安全级别ASL系统
站长网2023-11-03 09:09:110阅
Anthropic创始人Dario Amodei在英国人工智能安全峰会上介绍了该公司提出的负责任扩张政策(Responsible Scaling Policy,RSP)。该政策旨在确保人工智能系统的安全性和可控性,防止潜在的风险和滥用。
RSP包括两个主要组成部分:ASL系统和缩放曲线。
ASL系统是模仿生物安全等级(BSL)系统设计的,每个等级都有一个相应的保障措施。ASL-1代表几乎没有风险的模型,例如下棋的专业人工智能;ASL-2代表目前所处的阶段,模型具有广泛的风险,但尚未表现出真正危险的能力;ASL-3是AI模型在CBRN(化学、生物、放射和核)领域变得具有操作危险的时候;ASL-4代表了灾难性滥用风险的升级,当AI系统接近人类水平的自主能力,或成为至少一个严重的全球安全威胁(如生物武器)的主要来源时,将触发ASL-4。
缩放曲线是用来测试这些危险能力的间隔时间,以确保不会盲目地创造出具有危险能力的模型。随着人工智能系统的规模和能力的提升,保障措施也需要相应地升级。
0000
评论列表
共(0)条相关推荐
马斯克学微信做超级App,真叫一个不靠谱
而就在这个新闻爆出后没几天,12月21日,马斯克在SpaceX的一次活动上,与方舟投资总裁CathieWood对话时透露,X平台的支付服务Xpay将在明年年中推出。支付,虽然不起眼,但却是超级App最核心的一项功能,所有花里胡哨的操作,都要靠支付来跑通。一直嚷嚷着要做超级App的马斯克,貌似很认真。马斯克对超级App的阐述站长网2024-01-17 09:05:510000日本啤酒厂使用生成式 AI 打造新饮料
**划重点:**1.🧠KirinHoldings招募二进制智能为新产品构思提供灵感。2.🍺利用生成式AI开发“KirinHyoketsu”系列饮品,专注于现成饮品市场。3.🤖AI通过考虑顾客访谈中的调查结果,加速产品开发过程。站长网2023-12-19 16:51:110000英国因青少年隐私问题对 Snap AI 聊天机器人展开调查
站长之家(ChinaZ.com)10月7日消息:Snap公司因其生成式人工智能聊天机器人可能对Snapchat用户,尤其是13至17岁的青少年,构成的潜在隐私风险而在英国面临调查。图片来自Snap站长网2023-10-07 09:16:560000接连倒闭将成为沃尔玛、永辉等大型商超的唯一结局
在我的记忆中,已经有几年没有逛过大型商超了,昨天突然来了兴致,便和老婆到沃尔玛去逛了一圈,真的是惊掉了下巴,偌大的商场里面服务员竟然比顾客还要多,心里面不由感慨万千,看样子大型商超的发展已日渐式微,举步维艰了。站长网2023-05-24 19:29:1400029.9元的AI芭比写真,会抢走摄影师的饭碗?
当电影《芭比》票房一路飙升,“芭比AI写真”成为了近日最火的“周边”。几乎一夜之间,在各大社交媒体平台,不少人晒出自己的“芭比写真”。无论日常生活照中的你本人是什么肤色和发色,也无论你身穿什么,只需上传至一款名为“45AI”的小程序,花9.9元即可收到属于你本人的金发芭比写真——发型多为金色大波浪或是长直发、清一色的大眼高鼻梁、从头饰到服饰则是经典芭比粉。站长网2023-08-01 17:45:070000