英伟达发布最强AI加速卡 大语言模型性能比H100提升30倍
站长网2024-03-19 11:58:270阅
英伟达在 GTC 开发者大会上发布了最强 AI 加速卡 Blackwell GB200,计划今年晚些时候发货。
GB200采用新一代 AI 图形处理器架构 Blackwell,其 AI 性能可达20petaflops,比之前的 H100提升了5倍。每个 Blackwell Die 的浮点运算能力比 Hopper Die 高出25%,每个封装中有两个 Blackwell 芯片,总性能提高了2.5倍。
GB200包含两个 B200Blackwell GPU 和一个基于 Arm 的 Grace CPU,推理大语言模型性能比 H100提升30倍,成本和能耗降低至25分之一。
NVIDIA 表示,2000个 Blackwell GPU 就能完成之前需要8000个 Hopper GPU 和15兆瓦电力的训练任务。英伟达还提供了 GB200NVL72服务器,提供了36个 CPU 和72个 Blackwell GPU,并实现了720petaflops 的 AI 训练性能或1.4exaflops 的推理性能。
英伟达的系统还可扩展至数万 GB200超级芯片,具有11.5exaflops 的 FP4计算能力。
0000
评论列表
共(0)条相关推荐
仅1199!天玑900 256G存储,屏幕和iPad同款!酷比魔方X Pad能打吗
今年感觉不管是手机市场还是平板市场,都铆足了劲要抢占市场,像手机市场,今年好多厂商开始喊淘汰128GB,256GB起售的口号,甚至512GB内存的手机也被干到了白菜价。而平板市场这边,其实我们发现市面上大多数能做到128GB就算是大内存平板了。好多平板厂商仍然在做64GB的小内存平板,尤其是是一些打着教育平板名义的学习平板,低配高价成为这类所谓教育平板的标签。站长网2023-05-24 05:20:350000优爱腾芒要打击会员共享:请好好学习Netflix式「以柔克刚」
933万新会员,这是Netflix今年第一财季所交出的成绩单,是上年同期的五倍还多,也让这家流媒体巨头在全球的付费用户也突破了2.7亿,直逼3亿大关。除了“为会员提供了大量优质娱乐内容”这种经典传统说辞之外,持续增长的会员数量也直接反映了Netflix对于限制会员密码共享的努力正在不断获得成效。一季度Netflix净利润23.3亿美元,同比增长79%。站长网2024-04-23 16:32:410001Meta CEO 扎克伯格希望通过数字助手、智能眼镜和人工智能来帮助推动元宇宙
站长之家(ChinaZ.com)9月28日消息:Meta推出了新的人工智能工具和名人代言的数字助手,CEO马克·扎克伯格希望这些工具可以帮助启动元宇宙。在加利福尼亚州门洛帕克总部举行的MetaConnectVR开发者大会上,扎克伯格展示了AI软件、公司新款Quest3虚拟现实头戴设备以及最新款Ray-Ban智能眼镜。站长网2023-09-28 09:08:030002Google推出针对Google Workspace的人工智能驱动安全增强功能
随着企业加速云迁移,如何保障云端数据安全性日益成为首要考虑因素。日前,谷歌宣布将大幅增强GoogleWorkspace产品的安全能力,特别是利用人工智能防止企业云数据的泄露。站长网2023-08-25 10:54:060000AI圈巨震!微软论文曝光GPT-3.5参数量仅有200亿
要点:微软论文爆料GPT-3.5的参数量仅为20B,远小于之前官方宣布的1750亿,引发广泛关注和争议。微软的论文介绍了一个小规模扩散模型CodeFusion,性能出色,只有7500万参数,与大型模型相媲美。论文讨论了CodeFusion模型的架构和性能表现,对GPT-3.5的真实参数量提出了质疑,但仍需等待官方开源数据揭晓。站长网2023-10-31 14:43:500000