英伟达发布最强AI加速卡 大语言模型性能比H100提升30倍
站长网2024-03-19 11:58:270阅
英伟达在 GTC 开发者大会上发布了最强 AI 加速卡 Blackwell GB200,计划今年晚些时候发货。
GB200采用新一代 AI 图形处理器架构 Blackwell,其 AI 性能可达20petaflops,比之前的 H100提升了5倍。每个 Blackwell Die 的浮点运算能力比 Hopper Die 高出25%,每个封装中有两个 Blackwell 芯片,总性能提高了2.5倍。
GB200包含两个 B200Blackwell GPU 和一个基于 Arm 的 Grace CPU,推理大语言模型性能比 H100提升30倍,成本和能耗降低至25分之一。
NVIDIA 表示,2000个 Blackwell GPU 就能完成之前需要8000个 Hopper GPU 和15兆瓦电力的训练任务。英伟达还提供了 GB200NVL72服务器,提供了36个 CPU 和72个 Blackwell GPU,并实现了720petaflops 的 AI 训练性能或1.4exaflops 的推理性能。
英伟达的系统还可扩展至数万 GB200超级芯片,具有11.5exaflops 的 FP4计算能力。
0000
评论列表
共(0)条相关推荐
B站新推百大UP主:正面写着名字,背面写着“赚钱”
1月2日,B站发布2023年度百大UP主名单。作为每年平台最具代表意义的年度盘点,这份榜单再度引发网友的讨论。《天下网商》观察了此次评选的100位百大UP主,发现几个特点:几乎所有上榜的UP主都拥有较稳定的商单合作关系,部分UP主几乎每条视频都有商家或平台促销的广告植入;0000Kandinsky1:3.3亿参数强大模型,文本生成逼真图像
划重点:1.🌟Kandinsky1:3.3亿参数的强大模型,以令人瞩目的图像生成质量表现2.🖼️文本到图像生成模型的演进,潜在扩散技术的引入3.📊Kandinsky在COCO-30K验证数据集上取得8.03的FID分数,与最先进的文本到图像生成模型竞争激烈站长网2023-10-12 15:15:120000性能之王!一加Ace 3 Pro启用全新Logo
快科技6月15日消息,{tag_keyurl_3}李杰预告,一加Ace3Pro将在下周正式开启预热。为了迎接一加Ace3Pro的到来,一加Ace系列启用全新Logo,李杰表示,AcePerformance代表着最强的性能实力,关于这个标志,还有一些小故事,我后面和大家聊聊。站长网2024-06-17 01:54:360000闭门的微信公开课,讲了哪些视频号秘密?
过去每年开放大直播的微信公开课PRO,今年(2024)意外“闭门”,不再向业界公开。有工作人员在朋友圈中解释,是因为今年“公开课想要回归原点,忽略流量和热度,让公开课真正成为与开发者沟通的舞台”。尽管如此,每次公开课上释放的信息,却是业界关注对象,导致许多从业者四处打听。感谢许多在现场的朋友们提供帮助,不断拍照截图,记录现场信息并传递出来,我们才得以了解现场微信到底说了些什么。0001接连被开源项目curl、Prisma弃用,Rust语言遭遇水逆,网友:从狂热粉到后悔莫及
一时之间,Rust编程语言陷入到了接连被弃用的窘境。作为一门系统编程语言,Rust专注于安全,尤其是并发安全。它支持函数式和命令式以及泛型等编程范式的多范式语言,在语法上和C、C类似。图源:https://x.com/ThePrimeagen/status/1875592777440084416站长网2025-01-06 09:26:570000