Sam Altman 最新专访:首次回应 Q* 模型,拒绝回答被解雇原因
经历了为期五天的董事会政变尝试后,Sam Altman 于本周三正式重返 OpenAI 担任首席执行官。OpenAI 的最大投资者微软也计划担任非投票董事会成员。
在本周 The Verge 对其的电话采访中,Altman 多次拒绝回答所有人心中的主要问题:为什么他最初被解雇。OpenAI 的新董事会,由 Bret Taylor 领导,将对发生的事情进行独立调查。「我非常欢迎这一点,」Altman 说。
以下是 The Verge 对 OpenAI 首席执行官 Sam Altman 和首席技术官 Mira Murati 的完整采访,为清晰起见略作编辑:
Q:Sam,我首先想谈谈众所周知的问题,那就是我们仍然不知道你最初为什么被解雇。你认为你被解雇的原因是什么?
SA:董事会将在这里进行独立审查。我非常欢迎这一点。现在我没有太多其他话要说,但我期待了解更多。
Q:你认为为什么董事会说它失去了对你的信任?
SA:这是一个更适合他们回答的问题。
Q:你在 X 上说「很明显,我和董事会成员之间存在真正的误解」。这些误解是什么?
SA:我现在还没有准备好去谈论这个。我认为让这个审查过程进行非常重要。我很乐意谈论任何未来的事情。而且我想会有一个时候,我很乐意谈论这里发生的事情,但现在不是。
Q:你能告诉我为什么你现在不能谈论它吗?
SA:我只是想让这个过程进行,不想干扰。
Q:你在给员工的信中谈到了 Ilya Sutskever [OpenAI 的首席科学家]。你能让我了解一下他为什么改变主意,决定与其他人站在一起吗?
Mira Murati:我们不知道。你得问 Ilya 那个问题。
「我花了几分钟才摆脱困境并克服自我和情绪」
Q:Sam,回顾过去,让你回来的主要动力是什么?
SA:这真的很有趣。星期六早上,董事会的一些成员打电话给我,问我是否愿意谈论这个问题。我的第一反应有点反抗。就像,「天哪,我受伤了,我很生气,我觉得这很糟糕。」
然后,我很快就开始考虑,显然,我非常热爱这家公司,并在过去四年半的时间里全职投入了我的生命力,但实际上更长时间。我们在我非常关心的使命上取得了如此巨大的进展,那就是安全和有益的 AGI 使命。但也是这里的人们和所有对我们抱有很大期望的合作伙伴,以及 Mira 和领导团队以及所有做出了令人难以置信工作的人们。我花了几分钟时间才从这种情绪中振作起来,克服了自我和情绪,然后想「是的,我当然想这么做。」
Q:所以董事会要求你回来?
SA:是的。
Q:你最初犹豫了吗?
SA:没有很久。那里有很多感觉在我身上发生。
Q:很明显,员工支持你。你认为这是多大的因素?
SA:绝对地,我们经历了这一切,拥有一个更加团结、专注和承诺的团队。我认为我们之前就有很强的信念和专注度,现在我认为我们有了更多,所以这是我对这一切的乐观看法。
在这整个过程中,我们没有失去一个员工,一个客户。他们不仅在面对难以管理的增长时保持了产品的正常运行,而且还发布了新功能。研究进展继续进行。
Q:你想回到董事会吗?
SA:这听起来像一个公关说辞:现在不是我的重点领域。我有一座非常困难、重要和紧迫的工作要做。我想能够做好我的工作,但不是像 [在] 董事会上或不在董事会上。这不是我现在花时间考虑的事情。
「我完全明白为什么人们现在想要一个答案。但我也认为现在期望得到它是完全不合理的。」
Q:「改善我们的治理结构」是什么意思?非营利控股公司结构会改变吗?
SA:这是董事会成员的问题,但也不是现在。诚实的回答是他们需要时间,我们将支持他们去认真思考这一点。显然,我们的治理结构存在问题。解决这个问题的最佳方式将需要一段时间。我完全明白为什么人们现在想要一个答案。但我也认为现在期望得到它是完全不合理的。
Q:为什么你认为这是不合理的?我认为人们看到了关于发生的事情的很多模糊之处。而且看起来像是分歧,而不是不法行为之类的事情。
SA:哦,只是因为设计一个非常好的治理结构,尤其是对于如此具有影响力的技术,不是一个一周时间就能解决的问题。真正花时间去思考这个问题、辩论、获得外部观点、进行压力测试是需要时间的。
Q:最近发生的事件是否会改变 OpenAI 对安全工作的方法?
Mira Murati:不会。这与安全无关。
Q:关于你们最近在Q* 模型上取得的突破的报道,那是怎么一回事?
SA:对于那个不幸的泄露没有特别的评论。但我们一直在说的是——两周前,我们今天所说的,我们一年前所说的,我们早期所说的——我们预计这项技术的进展将继续迅速,我们也预计将继续努力弄清楚如何使其安全和有益。这是我们以前每天起床的原因。这也是我们将来每天起床的原因。我认为我们在这方面一直非常一致。
在不对任何特定的事情或项目或其他东西发表评论的情况下,我们相信进展是研究的一部分。你总是可能会遇到障碍,但我们预计进展将继续显著。我们希望与世界接触,弄清楚如何使这项技术尽可能好。
Q:最后一个问题: 我相信你还在思考这一切。我知道你还记忆犹新。你从整个事件中吸取了什么教训?
SA:我想我还没有一个简洁精炼的答案。显然有很多,但我仍在磕磕绊绊中度过。我的意思是,肯定会有很多话要说,但我想我还没有准备好.....此时我所拥有的只是一个漫长而漫无目的的答案。
好吧,下次再说。
挂断电话后, Altman 马上回电。
SA:我了解到,没有我,公司也能真正运转起来,这是一件非常好的事情。我很高兴能回来,别误会我的意思。但我回来时没有任何压力,「天哪,我得做这个,或者公司需要我什么的」。我自己感觉很好,因为要么是我挑选了优秀的领导者,要么是我把他们指导得很好。感觉公司没有我也会很好,团队已经准备就绪并提升了水平,这种感觉非常好。」
Anthropic通过在AI模型的提示中加入请求来防止歧视
Anthropic采用一种新方法来防止人工智能(AI)对受保护群体进行歧视,通过在提示中加入请求,要求AI“非常非常非常非常”友好地对待,并且这一策略在降低歧视方面取得了成功。研究人员通过在提示中加入“干预”来告诉模型不要有偏见,例如通过表达即使由于技术问题包含了受保护特征,模型应该“想象”在做决策时去除这些特征。这种方法在许多测试案例中成功将歧视降低到几乎零。站长网2023-12-08 10:27:440000当雷军和个体户都叫品牌主理人
当主理人这个词频繁地出现在大众视野,尤其经过小红书电商的重新定义和强调,不免让人心存疑虑:这个群体是全新的,还是原本就存在?背后的实质性内涵、对产业链的影响力,是否经得住被如此关注和放大?关于主理人的定义,没有标准答案。有人曾简单粗暴地说他们是「有腔调的个体户」。0000重回之作!曝华为授权门店已开始接受P70系列盲订
快科技4月3日消息,据国内媒体报道,目前已有华为授权门店开始接受P70系列产品盲订。北京市朝阳区某华为门店的销售人员表示:现在可以开始接受盲订,但是什么时间正式发售还需要以华为官方通知为准。”报道称,门店目前可以帮消费者预定所需要的内存版本,但颜色等其他产品信息现在授权门店并不知晓,后续会在正式发售时通知盲订消费者。目前,华为P70全系列三款机型目前已全部入网,认证信息已经公布。站长网2024-04-18 15:03:310000微软“史诗级改进”!Win11安装更新后可不用重启电脑
快科技2月24日消息,据国外媒体报道,微软正计划在Windows11更新中引入热补丁”功能,这样用户在安装每月的累积更新时,安装完成之后就不再需要重启电脑。据了解,热补丁”的工作原理是修补运行进程的内存代码,而无需重启进程”。报道表示,微软打算在Windows11上使用热补丁”功能来提供每月安全更新,这样用户安装之后无需重启。0003ChatGPT 可能会阻碍网络安全行业
ChatGPT因其惊人的人类化和准确的回应而备受关注。尽管其受欢迎程度不断增长,当前网络安全行业也更为关注这种技术是否有助于使互联网更安全或被那些试图制造混乱的人利用。ChatGPT带来的威胁ChatGPT作为人工智能聊天机器人,具备高级数据分析、自动化重复任务和计算风险评分等网络安全用例。然而,ChatGPT的易用性和广泛可用性也会使黑客能够入侵软件并发展出高级网络钓鱼工具。站长网2023-04-24 11:08:080000