Meta工程师称全球AI推理用电仅需新增两座核电站即可满足
站长网2023-11-14 15:23:360阅
近日,Meta公司的生成式人工智能工程总监谢尔盖·埃杜诺夫在硅谷数字工人论坛上透露,为满足明年全球不断增长的人工智能应用推理需求,仅需新增两座核电站的发电量即可。
埃杜诺夫表示,他仅通过简单的数学计算得出这个结果。他专门分析了人工智能“推理”阶段的用电量。推理指的是在实际应用中利用人工智能模型进行预测、回答问题等过程。这与模型训练阶段的用电量不同,后者需要大量数据训练模型。
埃杜诺夫估计,明年全球会新增100万到200万个Nvidia H100图形处理器,每个处理器功率约为1千瓦。如果全部用于合理规模的语言模型生成工作,每人每天可产生10万个“token”。他认为以人类规模来看,这用电量尚属合理。全球仅需新增两座核电站,就可以提供足够电力。
图源备注:图片由AI生成,图片授权服务商Midjourney
埃杜诺夫同时表示,训练更大规模语言模型将面临数据量不足的限制。下一代模型可能需要10倍的数据量,公开互联网的数据已不足以支撑。因此研究人员正致力于提高模型效率,以减少数据需求。视频等多模态数据也可提供新的训练集。
业内专家普遍认为,语言模型在两年内将为企业带来巨大价值。埃杜诺夫预计,三四年内我们将知晓当前技术是否能实现通用人工智能。供应链限制也将制约模型改进速度。但创新如Salesforce的Blib-2等仍在继续,或可通过提高效率绕开限制。
0000
评论列表
共(0)条相关推荐
半藏森林克隆人暂下线 此前小冰公司推出“GPT克隆人计划”
近日有网友发现,虚拟人休闲娱乐平台XEva下架了网红“半藏森林”等AI克隆人。运营人员表示:“半藏森林”克隆人目前正在内测,由于内测名额已满,因此先进行了下线。目前平台正在进行调整,其他虚拟人也目前不可见。6月1日,小冰公司宣布首批网红明星克隆人已提前上线,包括“半藏森林”等。站长网2023-06-05 21:07:040000OpenAI“散架”了,董事会突然开除Sam Altman,技术核心跟着不干了
就在刚刚,OpenAI在官网宣布一条让人不敢相信自己眼睛的爆炸性新闻:"OpenAI领导层变动:SamAltman将卸任首席执行官并离开董事会。公司的首席技术官MiraMurati将立即担任临时CEO。"所有外界的反应都是:What?!不是,这是发生啥了?也太刺激了吧!站长网2023-11-19 09:44:340001大模型冰火两重天?GPT访问增速大跌,国内产品热度也下滑,但一天N个发布
当下,大模型、AIGC到底是火还是不火了?让人摸不着头脑。一方面,有国内外的创业公司卖身、ChatGPT的访问量增速下滑、普通用户使用频次及关注度下滑;一方面,行业、大公司们动作频频,热火朝天。似乎,火了半年多的这个行业到了一个十字路口。傅盛朱啸虎激辩ChatGPT访问量增速下滑行业出现不同声音猎豹移动CEO傅盛和投资大佬朱啸虎在朋友圈激辩ChatGPT,引起了一阵讨论热潮。站长网2023-07-04 11:14:360005特斯拉Model Y降价 长续航版调整为29.99万元
特斯拉官方微博宣布,自2023年8月14日起,ModelY长续航版的价格将从31.39万元调整为29.99万元,ModelY高性能版的价格将从36.39万元调整为34.99万元。这一价格调整将使ModelY长续航版和高性能版更具竞争力,同时也可能刺激更多的消费者购买特斯拉的电动汽车。站长网2023-08-14 08:22:110000“苹果入局大模型?我深挖到了一些细节”
在今年早些时候的WWDC上,苹果宣布即将推出的iOS和macOS版本将配备一项由“Transformer语言模型”提供支持的新功能,这个功能和很多AIGC工具一样,方便用户在输入文字时,提供由AI生成的文本建议。站长网2023-09-20 09:12:290000