推理性能飙升1.5倍!微软疯狂下单GB200芯片提升其AI算力
站长网2024-10-20 13:44:440阅
快科技10月20日消息,分析师郭明錤的最新报告指出,NVIDIA GB200芯片订单量迎来爆炸性增长,其中微软第四季度订单量激增3到4倍,超过所有其他云服务商的总和。
他指出,NVIDIA Blackwell芯片的产能扩张预计将于2024年第四季度初启动,预计第四季度出货量在15万到20万块之间,而2025年第一季度出货量将增长200%到250%,达到50万到55万块。
据报道,微软在2024年第四季度的Blackwell GB200订单量已从之前的300500个机柜激增至约14001500个机柜,其中约70%为NVL72型号,增幅最高达400%。
富士康和广达负责交付微软的Blackwell系统,根据两家公司的调查,微软的Blackwell GB200订单量遥遥领先其他云服务提供商,并且该公司正在迅速扩展其AI计算能力。
根据NVIDIA官方给出的数据,新一代GB200服务器系统在Llama 3.1 700亿参数大模型上的AI推理性能对比H200提高了足足1.5倍。
此外,微软还计划在低温数据中心部署GB200服务器,以缓解冷却系统的潜在压力。
其他云服务提供商订单量则显著低于微软,如亚马逊在2024年第四季度有300400机柜GB200 NVL36订单,而Meta则专注于Ariel架构,订单量也未能与微软相提并论。
0000
评论列表
共(0)条相关推荐
研究:大模型在回答中会重复有害的错误信息
**划重点:**1.📚研究揭示大型语言模型在六个类别中重复传播阴谋论、有害刻板印象和其他形式的虚假信息。2.🔄ChatGPT存在频繁错误、自相矛盾及重复有害信息的问题。3.🤔研究强调语境与提问方式可影响模型对虚假信息的“附和”程度。对大型语言模型的新研究表明,它们重复了阴谋论、有害的刻板印象和其他形式的错误信息。0001FF发布第二品牌Faraday X:对标丰田 专注增程式混动车型
站长之家(ChinaZ.com)9月20日消息:今日,FaradayFuture(法拉第未来)正式对外发布了其第二品牌,命名为FaradayX(简称FX)。该品牌将专注于增程式混动车型的开发,并已启动品牌标识的共创征集活动。公司创始人贾跃亭表示,FX品牌的目标是成为智能电动车(AIEV)市场的领导者,对标丰田,致力于进入增程式混动车型市场。站长网2024-09-20 18:03:450000假新闻和嘲笑逝者——微软的人工智能新闻聚合出了什么问题?
站长之家(ChinaZ.com)11月6日消息:最新的一篇CNN报道通过一些例子展示了MSNAI模型在新闻聚合方面的问题,如突出显示一则声称美国总统乔·拜登在为毛伊岛野火受害者默哀时打瞌睡的新闻(实际上并没有),或是一则错误地将一名NBA球员描述为「无用」的讣告。站长网2023-11-06 08:58:320001前妙鸭产品经理张月光创业公司「沐言智能」获近3亿融资
据报道,前阿里产品经理张月光离职创业后,其创立的新公司「北京沐言智语科技有限公司」已经进行四轮融资,融资金额接近3亿人民币。这一消息在业内引起轰动,尤其是在当前资本市场环境下,这样的融资规模十分罕见。0000短篇作者为何能在UC故事会月入过万
UC故事会的内容机制和平台策略,帮助很多作者都实现了月入过万的小目标,也让他们在这里找到了更多人生新的可能。短篇作者叙白这个月几乎没更新,但今年3月在UC故事会发布的短篇还在为她贡献着每月一两万的收益。UC故事会是UC浏览器小说频道的重要品类之一,其中有海量的独家短篇小说。这种短篇故事在内容上沿袭了传统网文的经典类型,但篇幅更短,节奏更紧凑,10分钟左右就能读完一篇完整内容,深受用户喜爱。0000