英伟达发布最强AI加速卡 大语言模型性能比H100提升30倍
站长网2024-03-19 11:58:270阅
英伟达在 GTC 开发者大会上发布了最强 AI 加速卡 Blackwell GB200,计划今年晚些时候发货。
GB200采用新一代 AI 图形处理器架构 Blackwell,其 AI 性能可达20petaflops,比之前的 H100提升了5倍。每个 Blackwell Die 的浮点运算能力比 Hopper Die 高出25%,每个封装中有两个 Blackwell 芯片,总性能提高了2.5倍。
GB200包含两个 B200Blackwell GPU 和一个基于 Arm 的 Grace CPU,推理大语言模型性能比 H100提升30倍,成本和能耗降低至25分之一。

NVIDIA 表示,2000个 Blackwell GPU 就能完成之前需要8000个 Hopper GPU 和15兆瓦电力的训练任务。英伟达还提供了 GB200NVL72服务器,提供了36个 CPU 和72个 Blackwell GPU,并实现了720petaflops 的 AI 训练性能或1.4exaflops 的推理性能。
英伟达的系统还可扩展至数万 GB200超级芯片,具有11.5exaflops 的 FP4计算能力。
0000
评论列表
共(0)条相关推荐
谷歌AI提出视觉语言模型PixelLLM:能够进行细粒度定位和视觉语言对齐
**划重点:**1.🧠谷歌研究团队与加州大学圣迭戈分校合作,提出了一种名为PixelLLM的智能模型,可实现细粒度定位和视觉-语言对齐。2.🌐PixelLLM通过在语言模型的每个输出单词与像素位置之间建立密集对齐,成功解决了大语言模型在定位任务中的挑战。站长网2023-12-19 11:07:110000Meta祭出三篇最详尽Llama微调指南!千字长文,0基础小白必备
【新智元导读】微调的所有门道,都在这里了。开源,就要开的彻彻底底。这不,Meta一连放出三篇技术文章,从大模型适配方法出发,介绍了:如何使用特定领域数据微调LLM,如何确定微调适配自己的用例,以及如何管理良好训练数据集的经验法则。接下来,直接进入正题。适配大模型预训练预训练是指,使用数万亿个token数据,从头开始训练LLM的过程,通常使用自监督算法进行训练。站长网2024-08-27 18:00:300000视频号带货达人,@小李飞叨-李洋 一个人就演出了人山人海
@小李飞叨-李洋是谁?这可能是一个很多年轻人感到陌生的名字。事实上,@小李飞叨-李洋是一个短视频创作者,粉丝主要为女性群体,年龄在31-40岁区间占比最大,内容的主要形式为一人分饰几角的演绎,截至目前其抖音粉丝已有249.7w,入驻视频号后,更是多个视频点赞破万,并且入围双十一带货头部达人榜。图源热浪数据0000国产动漫视频AI火了!二次元老婆随意捏,哥特、梦幻、机甲一键get
【新智元导读】视频生成赛道又起新秀,而且还是二次元定制版!稳定产出电影级画面,一键文/图生成视频,即使是「手残党」也能复刻自己喜欢的动漫作品了。现在,各位二次元萌新们,不用再等「太太」出图啦!我们不仅可以自己产粮,而且还是会动的那种。如今,AI视频生成这个赛道,可谓是杀得如火如荼。这些更新更强的模型,思路和ScalingLaw一脉相承,主打一个「又大又全」。站长网2024-07-05 16:49:070003华为4月17日首发全液冷超充架构 充电桩功率“遥遥领先”
日前,快科技了解到,华为宣布将在4月17日举行华为智能电动新品发布会,首发全液冷超充架构、充电网络解决方案,同时还将发布AITO问界M5智驾版。此前报道显示,华为液冷超充桩在某汽车园区内就已曝光,充电桩通体呈大红色,造型方正,底部设有散热装置。充电桩铭牌信息信息显示,其制造厂商为华为数字能源技术有限公司,外部尺寸295*340*1700mm,型号为DT600L1-CNA1型。站长网2023-04-16 09:06:290000