Meta工程师称全球AI推理用电仅需新增两座核电站即可满足
站长网2023-11-14 15:23:360阅
近日,Meta公司的生成式人工智能工程总监谢尔盖·埃杜诺夫在硅谷数字工人论坛上透露,为满足明年全球不断增长的人工智能应用推理需求,仅需新增两座核电站的发电量即可。
埃杜诺夫表示,他仅通过简单的数学计算得出这个结果。他专门分析了人工智能“推理”阶段的用电量。推理指的是在实际应用中利用人工智能模型进行预测、回答问题等过程。这与模型训练阶段的用电量不同,后者需要大量数据训练模型。
埃杜诺夫估计,明年全球会新增100万到200万个Nvidia H100图形处理器,每个处理器功率约为1千瓦。如果全部用于合理规模的语言模型生成工作,每人每天可产生10万个“token”。他认为以人类规模来看,这用电量尚属合理。全球仅需新增两座核电站,就可以提供足够电力。

图源备注:图片由AI生成,图片授权服务商Midjourney
埃杜诺夫同时表示,训练更大规模语言模型将面临数据量不足的限制。下一代模型可能需要10倍的数据量,公开互联网的数据已不足以支撑。因此研究人员正致力于提高模型效率,以减少数据需求。视频等多模态数据也可提供新的训练集。
业内专家普遍认为,语言模型在两年内将为企业带来巨大价值。埃杜诺夫预计,三四年内我们将知晓当前技术是否能实现通用人工智能。供应链限制也将制约模型改进速度。但创新如Salesforce的Blib-2等仍在继续,或可通过提高效率绕开限制。
0000
评论列表
共(0)条相关推荐
苹果配备 USB-C 接口的有线耳机已经在 iPhone 15 上市前量产
随着所有四款iPhone15机型预计将采用USB-C接口而不是Lightning接口,一些苹果配件也将改用USB-C接口。例如,根据爆料者ShrimpApplePro今天发布的推文,带有USB-C接口的EarPods耳机已经开始批量生产。他们此前表示富士康正在提供耳机。站长网2023-05-12 20:33:430000技术奇迹!清华突破大模型算力难题 RTX 4090单枪匹马就能跑满血版DeepSeek
快科技2月15日消息,清华团队突破大模型算力难题,这让英伟达情何以堪。据国内媒体报道称,清华大学KVCache.AI团队联合趋境科技发布的KTransformers开源项目迎来重大更新,成功打破大模型推理算力门槛。此次KTransformers项目更新带来重大突破,支持在24G显存(4090D)的设备上本地运行DeepSeek-R1、V3的671B满血版。0000研究发现:ChatGPT隐藏受版权保护训练数据
文章概要:1.据新研究,ChatGPT试图隐瞒训练过程中使用了受版权保护材料。2.其表现为,当用户试图提取下一个句子时,ChatGPT会扰乱输出。3.研究人员认为ChatGPT检测提示意图并采取措施,但仍使用受版权保护材料。站长网2023-08-25 10:54:110000Contra Pro:专为独立开发者和设计师服务的AI作品集建站平台
ContraPro是一款面向自由职业者的专业在线作品集平台。该平台提供了众多功能,能够全面满足自由职业者的业务需求。ContraPro具有强大的分析功能,能够实时追踪作品集浏览数据、访问量等关键指标,让自由职业者了解内容传播效果。平台还提供无限量的作品集模板和自定义域名功能,使自由职业者能够打造个性化的专属品牌。体验地址:https://contra.com/pro站长网2023-09-15 11:20:020000贵州茅台:i茅台累计注册用户超4000万
据贵州茅台公布数据显示,截至5月18日,i茅台的注册用户已超过4000万,并且累计销售额已经超过了230亿元。据了解,2022年5月19日,i茅台APP宣布正式上线。“i茅台”是贵州茅台官方推出的数字营销APP,支持消费者在线注册、实名认证、线上线下支付、取消退款、门店提货等。站长网2023-05-19 16:07:410001