Meta工程师称全球AI推理用电仅需新增两座核电站即可满足
站长网2023-11-14 15:23:360阅
近日,Meta公司的生成式人工智能工程总监谢尔盖·埃杜诺夫在硅谷数字工人论坛上透露,为满足明年全球不断增长的人工智能应用推理需求,仅需新增两座核电站的发电量即可。
埃杜诺夫表示,他仅通过简单的数学计算得出这个结果。他专门分析了人工智能“推理”阶段的用电量。推理指的是在实际应用中利用人工智能模型进行预测、回答问题等过程。这与模型训练阶段的用电量不同,后者需要大量数据训练模型。
埃杜诺夫估计,明年全球会新增100万到200万个Nvidia H100图形处理器,每个处理器功率约为1千瓦。如果全部用于合理规模的语言模型生成工作,每人每天可产生10万个“token”。他认为以人类规模来看,这用电量尚属合理。全球仅需新增两座核电站,就可以提供足够电力。

图源备注:图片由AI生成,图片授权服务商Midjourney
埃杜诺夫同时表示,训练更大规模语言模型将面临数据量不足的限制。下一代模型可能需要10倍的数据量,公开互联网的数据已不足以支撑。因此研究人员正致力于提高模型效率,以减少数据需求。视频等多模态数据也可提供新的训练集。
业内专家普遍认为,语言模型在两年内将为企业带来巨大价值。埃杜诺夫预计,三四年内我们将知晓当前技术是否能实现通用人工智能。供应链限制也将制约模型改进速度。但创新如Salesforce的Blib-2等仍在继续,或可通过提高效率绕开限制。
0000
评论列表
共(0)条相关推荐
报告:60%的GPT-3.5输出存在抄袭问题
划重点:1.📊Copyleaks报告显示,60%的OpenAIGPT-3.5输出存在抄袭,采用专有评分方法考虑了相同文本、微小修改和改写等因素。2.🕵️♂️GPT-3.5在各学科中展示不同的相似性得分,计算机科学最高(100%),而戏剧、人文和英语语言相似性最低。站长网2024-02-27 17:08:120000文心一言有了新工作,百度输入法转型AI创作工具
在经过了漫长的测试期后,第一款国产AI大模型百度文心一言在8月的最后一天已正式与大家见面,相信已经有不少朋友体验到了它的魅力。并且值得一提的是,在宣布面向所有用户开放文心一言的同时,百度还表示还将开放一批经过全新重构的AI原生应用,让广大用户充分体验生成式AI的理解、生成、逻辑、记忆四大核心能力。站长网2023-09-26 17:09:210000李彦宏:百度文心一言是率先实现收费的大型语言模型之一
在昨日的财报电话会议上,针对AI相关问题,百度董事长兼CEO李彦宏表示,公司在利用生成式人工智能技术推动广告业务增长,包括创意建设、精准投放、竞价优化方面的工作,这些努力也在逐步起效,所推动的营收增长也将在四季度超过数亿元人民币。站长网2023-11-22 08:36:340000百度地图推出隧道车道级导航 定位不准确可申请100元赔付
百度地图全球首次推出隧道车道级导航,为重庆3000万用户解决隧道导航问题。该导航功能通过自研的“北斗高精”融合定位技术,实现了进出隧道不漂移、车标稳定跟随等特点。同时,车道级导航可以在隧道内精准定位行驶车道,并提供实时展示车道级路况和道路事件,提供安全变道指引。为了保证服务质量,百度地图推出限时100元赔付活动,用户在使用百度地图导航时如发现定位不准确可以申请错必赔保障。站长网2023-08-08 17:21:000000群像种田剧,《惜花芷》走出“上扬曲线”的创作密码 | 专访鄢蓓
相比古装剧流行的“高热开局”,《惜花芷》显得“慢热”了一些。开播半月、剧情近三分之二,该剧在优酷站内热度破万;并于同日登顶灯塔全网正片播放量榜单。此后则势头高涨,不仅连续多日稳住TOP1的位置,还拿下了四月剧集集均播放TOP1。在云合评级中,这部剧也实现了从首播的A级到S级、最终达到S的“升级”。站长网2024-04-28 22:18:280000