英伟达发布新一代AI处理器H200 性能较H100提高60%至90%
站长网2023-11-14 09:09:550阅
昨日晚间,英伟达Nvidia 推出了 H200,这是一款专为训练和部署生成式人工智能模型的图形处理单元(GPU)。
它基于 NVIDIA Hopper 架构,具有先进的内存和处理能力,可处理海量的数据用于生成式 AI 和高性能计算工作负载。
H200是第一款具有 HBM3e 内存的 GPU,提供了141GB 的内存和4.8TB/s 的内存带宽,几乎是 NVIDIA H100Tensor Core GPU 容量的两倍,内存带宽也增加了1.4倍。
在 AI 领域,业务需要使用大型语言模型来满足各种推理需求。H200在处理类似 Llama2这样的大型语言模型时,相比 H100GPU 的推理速度提高了2倍。
对于高性能计算应用,内存带宽对于提高数据传输速度、减少处理瓶颈至关重要。H200的更高内存带宽确保高效地访问和操作数据,使得与 CPU 相比,处理时间快了110倍。
此外,H200的能效和总拥有成本也有所降低。这项前沿技术不仅提供了卓越的性能,而且功耗与 H100相同。
预计 H200将在2024年第二季度开始发货。
Nvidia 表示,H200将兼容 H100,这意味着已经在使用先前模型进行训练的人工智能公司无需更改其服务器系统或软件即可使用新版本。
0000
评论列表
共(0)条相关推荐
微信红包封面兑换卡功能升级 兑换卡额度可多次转移
此前,微信红包封面平台已上线支持「封面兑换卡」功能:可把有效期内未发完的红包封面转换为「兑换卡」,重新兑换到新的封面款式上。今日,微信宣布,「封面兑换卡」能力进一步升级:封面额度从「仅能转换1次兑换卡」升级为「可以多次转为兑换卡」。在有效期内的封面额度,都可通过兑换卡灵活变更封面款式。封面兑换卡使用指引步骤一:生成封面兑换卡站长网2024-04-29 16:59:120000网络黑市“丝绸之路”二号人物被判20年监禁
RogerThomasClark,也被称为VarietyJones,在建立世界上第一个暗网毒品市场(SilkRoad丝绸之路)方面扮演着关键角色,他将在监狱中度过他生命中的大部分时间。站长网2023-07-13 06:58:220000Deepfake假CFO骗走公司1.8个亿,员工:视频会议里每个人看起来都很真实啊
就离谱!只因开了一个视频会议,直接被骗1.8个亿。这是真真切切已经在香港发生的一场犯罪:一家跨国公司香港分公司的财务人员,按照“CFO”的指令,给对方指定账户共计转账2亿港币(约合1.8亿人民币)。谁曾想,这个刚刚在视频会议里跟自己“面对面”聊过的人,完全是Deepfake出来的!先别着急骂这大兄弟警惕性太低,Ta也不是没有过一丝丝怀疑,但是,这可不是什么诈骗界常见的一对一视频通话——站长网2024-02-12 10:40:410000ChatGPT 正在为一种新型 Snapchat 滤镜提供支持
划重点:-Snapchat宣布将在AR发布会上推出使用ChatGPT提供支持的的AR滤镜特效-LensStudiofordevelopers新版本将包括使用ChatGPT创建滤镜的功能-Snap的AI滤镜已经由ChatGPT提供支持,现在还可以用于创建测验或随机生成器站长网2023-11-10 09:56:070000百度网盘云一朵文件助手上线 转发文章即可生成简洁文章摘要
百度网盘宣布云一朵文件助手上线。云一朵文件助手是百度网盘的企业微信号,通过先进的自然语言处理和机器学习技术,能对文章的主题、内容和结构进行快速准确的分析,然后生成简洁明了的摘要。使用云一朵文件助手可以帮助用户快速提取文章的核心内容,并进行分段总结,提高阅读效率。站长网2023-09-07 16:38:080001