OpenAI 领导者表示:我们非常重视安全
划重点:
🚨 两位AI安全高管离职:OpenAI的联合创始人兼首席科学家Ilya Sutskever和“超级对齐团队”负责人Jan Leike辞职。
🔍 团队解散与安全担忧:Leike对公司领导层在AI安全方面的重视程度表示失望,认为公司对人工通用智能(AGI)的安全问题关注不足。
🛠️ 公司回应与安全措施:CEO和总裁回应称,公司已建立安全部署的基础设施,并持续改进AI模型行为和滥用监控。
OpenAI近期面临重大人事变动,引发业界对其AI安全承诺的关注。上周,公司联合创始人兼首席科学家Ilya Sutskever宣布辞职,以追求其他项目。与此同时,“超级对齐团队”负责人Jan Leike也宣布离职,并在公开信中表达了对公司领导层的失望,特别是对AI安全重视不足的问题。
Leike特别指出,公司在人工通用智能(AGI)的安全问题上缺乏足够的重视。AGI是一种尚未实现的AI形态,能够像人类一样思考和推理。他强调,我们迫切需要认真对待AGI带来的影响,并呼吁OpenAI成为一个以安全为先的AGI公司。
对此,OpenAI的CEO Sam Altman和总裁Greg Brockman在联合声明中回应称,他们对AGI的风险和潜力有着清晰的认识。他们表示,公司一直在倡导国际AGI标准,并在检查AI系统可能带来的灾难性威胁方面发挥了先锋作用。
此外,他们还提到,公司已经建立了安全部署越来越强大系统的基础设施,并以GPT-4的推出为例,展示了公司如何在安全方面做出了大量工作,并根据部署中学到的经验不断改进模型行为和滥用监控。
据彭博新闻报道,除了Leike之外,“超级对齐团队”的其他成员也在近几个月离开了OpenAI,这无疑给公司带来了更多挑战。为了应对这一变化,公司任命了专注于大型语言模型的联合创始人John Schulman作为组织对齐工作的新科学负责人。
除了“超级对齐团队”,OpenAI还有许多专门从事AI安全的员工分布在公司内的不同团队,以及一些专门致力于安全的独立团队。其中就包括一个准备团队,负责分析和减轻与AI系统相关的潜在灾难性风险。
Sam Altman在本月早些时候的“All-In”播客中表示,他支持创建一个国际机构来监管AI,以应对可能造成的“重大全球伤害”。这表明OpenAI及其领导层对AI安全问题的认识和承诺仍然坚定,尽管公司内部的人事变动带来了一些不确定性。
涨粉利器!Artflow AI:一个轻松帮你做英语和动漫解说视频的软件
Artflow.ai是一款强大的人工智能工具,它的目标是帮助用户创造出自定义头像并将他们的故事栩栩如生。该工具具有以下主要特点和优势:提供了自定义创作的功能。用户可以通过输入文本来生成角色、场景和声音,并编写独特的对话。这种创作方式不仅方便快捷,而且能够满足用户个性化的需求。体验地址:https://app.artflow.ai/my-creations站长网2023-11-24 16:29:550000小红书相亲直播间,线上城市里的「小酒馆」
如果说社区是一座城市,城市中每个孤立的个体,都需要找到让自己有归属感的角落。这样的据点能加深个体对于这座城市的情感投入,不再感到漂泊无依。作者|赵铭(上海)晚上九点钟,小红书「非活勿扰」直播间又开播了。站长网2024-03-10 17:01:400000字节跳动旗下云服务火山引擎数智平台VeDI发布AI助手
字节跳动旗下云服务火山引擎在V-Tech数据驱动科技峰会上推出了火山引擎数智平台VeDI的AI助手。通过接入人工智能大模型,该AI助手可以帮助企业提升数据处理和查询分析的效率。即使是不会写代码的运营人员,也可以通过与大模型对话的方式进行业务运营数据的取数、看数和归因分析。目前,VeDI相关数据产品已经启动邀测。站长网2023-09-19 15:55:440000小米仿生四足机器人 CyberDog 2 配备 21 TOPS 算力 AI 处理器
站长之家(ChinaZ.com)8月15日消息:小米昨晚在北京国家会议中心召开2023雷军年度演讲,并在现场发布全新仿生四足机器人CyberDog2。站长网2023-08-15 09:49:550003你在热议大妈云栖大会招女婿的时候,已经上了营销的当
今天阿里云栖大会,算科技圈的一个盛会,但很多人知道它,是因为一组照片。这组照片的内容是:几个老奶奶,站在云溪大会入口处附近,高举招女婿的牌。内容也很奇葩,分别是:第一则:题目:《招AI贤婿》93年独生女,萧山人,云栖大会寻缘,诚觅AI大模型程序员。第二则:题目:《招赘婿》站长网2023-11-01 09:06:410000