算力资源稀缺!OpenAI计划自研芯片:解决GPU卡脖子问题
站长网2023-10-06 21:55:220阅
快科技10月6日消息,据国外媒体报道称,ChatGPT背后的OpenAI计划自研AI芯片,以解决其所依赖的AI芯片短缺以及成本高昂问题,甚至已经开始评估潜在的收购目标。
据知情人士表示,OpenAI至少从去年就已经开始讨论各种方案解决AI芯片短缺问题,这些方案包括自研AI芯片、与英伟达等制造商展开更紧密合作、实现供应商多元化并最终超越英伟达等。
目前英伟达主导了全球95%的Al训练领域市场,随着算力需求的激增,导致英伟达GPU一卡难求”,再加上AI算力成本持续攀升,即便强如OpenAI也在寻找新方案,从而避免长期被卡脖子”
早在去年的时候OpenAI的首席执行官就公开抱怨英伟达GPU芯片稀缺,称公司发展受到GPU的严重限制。

集邦咨询的报告显示,以英伟达A100显卡的处理能力计算,运行ChatGPT将可能需要使用到3万块英伟达GPU显卡,而国内可以买到的A100价格已涨至15万/张左右。
根据华尔街投行伯恩斯坦的分析,ChatGPT单次查询的成本约为4美分,若ChatGPT的搜索量达到谷歌的1/10,OpenAI每年将需要大约价值481亿美元(约合3512亿元人民币)的GPU以及价值约160亿美元(约合1168亿元人民币)的芯片来维持运行。
考虑到自研芯片的难度,OpenAI已经在考虑对潜在目标公司进行收购来加快进程。但定制AI芯片可能需要数年时间,并且投入数额也是十分巨大的,因此OpenAI是否会继续推进定制芯片计划仍然是个问号。
0000
评论列表
共(0)条相关推荐
英伟达因安全问题取消以色列人工智能峰会
站长之家(ChinaZ.com)10月9日消息:英伟达原计划在一周后举行为期两天的以色列人工智能峰会,但由于对参与者安全和福祉的担忧,该活动现已取消。截至目前,来自哈马斯袭击的以色列死亡人数已上升至600人,受伤人数超过2000人,有100多名人质被劫持。以色列的报复性空袭造成370人死亡,2200人受伤,根据加沙卫生部的数据。站长网2023-10-09 09:48:550000srf-attention:一个提高深度学习模型训练效率的注意力机制
注意力很有用,但计算成本很高。然而,一旦训练完成,通过一些微调计算,您可以减少SRF注意力并消除对序列长度的依赖,从而大大加快速度。srf-attention是一个PyTorch模块,用于替代传统的注意力机制,提供更高效的模型训练和推理。它的核心功能包括安装和使用简便、示例代码提供、适用于各种应用领域。这个模块有望为深度学习社区提供更高效的工具,帮助研究人员和开发者改进其模型的性能和效率。站长网2023-10-11 18:13:030000爱荷华州学区使用 ChatGPT 决定禁书清单
本文概要:1.爱荷华州梅森城社区学区使用ChatGPT选出了19本被禁书籍,这款工具认为这些书籍包含性内容。2.学区表示他们无法逐一阅读每本书籍,因此决定使用ChatGPT来帮助决定哪些书籍应该被禁止。3.不过使用ChatGPT决策的方法存在问题,因为该工具答案有时会因用户的查询方式而产生矛盾。站长网2023-08-16 10:30:380000大V用自动洗车机给小米SU7洗车 本想省50结果亏了5000块
快科技5月9日消息,新车如果要洗车的话,你会选择自动洗车机还是人工洗呢,下文这位大V博主就用自己的小米SU7以身试法,揭示了自动洗车机的坑车”之处。据其介绍,他上周把他的小米SU7开到了机械自动洗车机去洗车,本想省个50块的洗车费,结果洗完车发现亏大了。0000DeepMind研究发现提升语言模型推理能力的简单方法
**划重点:**1.🤖深度学习研究表明,语言模型的逻辑推理性能受前提顺序显著影响。2.🧩研究发现,当前提按照逻辑结论的顺序呈现时,语言模型表现最佳,类似于人类偏好。3.🤯前提顺序对GPT模型的性能有显著影响,且研究未提供理论解释,但结果有望指导使用语言模型进行基本推理任务的专家。站长网2024-02-26 10:04:180000