英伟达发布新一代AI处理器H200 性能较H100提高60%至90%
站长网2023-11-14 09:09:550阅
昨日晚间,英伟达Nvidia 推出了 H200,这是一款专为训练和部署生成式人工智能模型的图形处理单元(GPU)。
它基于 NVIDIA Hopper 架构,具有先进的内存和处理能力,可处理海量的数据用于生成式 AI 和高性能计算工作负载。
H200是第一款具有 HBM3e 内存的 GPU,提供了141GB 的内存和4.8TB/s 的内存带宽,几乎是 NVIDIA H100Tensor Core GPU 容量的两倍,内存带宽也增加了1.4倍。
在 AI 领域,业务需要使用大型语言模型来满足各种推理需求。H200在处理类似 Llama2这样的大型语言模型时,相比 H100GPU 的推理速度提高了2倍。
对于高性能计算应用,内存带宽对于提高数据传输速度、减少处理瓶颈至关重要。H200的更高内存带宽确保高效地访问和操作数据,使得与 CPU 相比,处理时间快了110倍。
此外,H200的能效和总拥有成本也有所降低。这项前沿技术不仅提供了卓越的性能,而且功耗与 H100相同。
预计 H200将在2024年第二季度开始发货。
Nvidia 表示,H200将兼容 H100,这意味着已经在使用先前模型进行训练的人工智能公司无需更改其服务器系统或软件即可使用新版本。
0000
评论列表
共(0)条相关推荐
CNET员工成立工会,称使用AI对其工作和声誉造成威胁
CNET的员工正在组建工会,他们将雇主使用人工智能列为一个关键原因。生成人工智能技术筹集了数十亿美元的资金并有可能颠覆整个行业,它已经对人类工作产生了非常大的影响。站长网2023-05-19 11:09:350000ChatGPT 和 GPT-4 均无法通过成为 CFA 所需的所有级别的考试
站长之家(ChinaZ.com)11月3日消息:根据最近的一项研究,ChatGPT未能通过特许金融分析师(CFA)考试——这是许多华尔街金融专业人士的基准资格。这项研究由摩根大通的AI研究团队和大学学者联合进行,他们使用CFA风格的问题测试了ChatGPT和GPT-4(两款由OpenAI创建的大型语言模型)是否具备复杂的财务推理能力。站长网2023-11-03 15:04:110002吉利与雷诺集团签署合资协议 携手打造动力总成技术公司
今日,吉利控股集团和吉利汽车控股有限公司与雷诺集团签署了一项50:50的约束性合资协议,成立一家新公司,在全球范围内研发、制造和供应先进的混合动力总成和高效的燃油动力总成。吉利和雷诺集团将把相关知识产权转入各自的运营中心,让新公司能完全自主开发未来动力总成技术,满足各类市场需求。凭借互补的产品组合和全球性业务布局,新公司产品可涵盖全球80%的燃油动力和混合动力汽车市场应用需求。站长网2023-07-12 09:09:560000年轻人买爆防晒平替:代工厂月入300万,义乌商家通宵发货
一下子涌进来很多散客,让防晒衣代工厂负责人杨峰懵了。起因是,一位博主无意间在内容社区平台发布了一条“在代工厂低价买到蕉下同款”笔记。蕉下防晒衣代工厂的身份,成为“金字招牌”,让杨峰在1688平台上的店铺流量陡增,最高日访问量一度达到5000余人。防晒产品季节性明显,入夏后的5-7月销量会达到峰值,这也是杨峰一年中最忙碌时期,尤其今年高温天气下,工厂生意明显好于往年。站长网2023-07-15 16:26:300000Google Assistant 迎来 Windows Copilot 时刻 而这一切都要归功于人工智能
站长之家(ChinaZ.com)10月8日消息:语音助手曾经是大约十年前人工智能的巅峰,但随着生成式人工智能的崛起,它们在某种程度上已经显得过时。尽管需要升级,谷歌一直忽略了其语音助手,而是追求更雄心勃勃的项目,如其GoogleBard聊天机器人——一直到现在。站长网2023-10-08 09:21:090000