英伟达推出 AI 领域顶尖新芯片 HGX H200:以更高性能满足生成式 AI 需求
英伟达公司当地时间周一宣布,推出其 AI 工作的新一代顶级芯片 —— HGX H200。该新 GPU 在其广受欢迎的前代产品 H100 的基础上,实现了1.4 倍的内存带宽提升和 1.8 倍的内存容量增加,大幅提高了其处理密集型生成 AI 工作的能力。
![](https://i.zz5.net/images/article/2023/11/14/090454951.jpg)
然而,目前市场对于这些新芯片的可获得性仍存疑问,尤其是考虑到 H100 的供应限制。英伟达尚未就此问题提供明确答复。英伟达公司表示,首批 H200 芯片将于 2024 年第二季度发布,目前正与「全球系统制造商和云服务提供商」合作以确保芯片的可用性。英伟达发言人 Kristin Uchiyama 对生产数量不予置评。
除了内存之外,H200 在其他方面与 H100 大体相同。但内存的改进使其成为了一次有意义的升级。这款新 GPU 是首个使用新型、更快的 HBM3e 内存规格,将其内存带宽提高至每秒 4.8TB,相较于 H100 的 3.35TB 有显著提升,总内存容量也从 80GB 增至 141GB。
英伟达高性能计算产品副总裁 Ian Buck 在今天的视频演示中表示:「更快更大容量的 HBM 内存的整合,旨在加速包括生成 AI 模型和高性能计算应用在内的计算密集型任务的性能,同时优化 GPU 的利用率和效率。」
H200 还设计为与已支持 H100 的系统兼容。英伟达表示,云服务提供商在加入 H200 时无需进行任何改动。亚马逊、谷歌、微软和甲骨文的云服务部门将是明年首批提供新 GPU 的公司之一。
新芯片一经推出,定将售价不菲。虽然英伟达未公布其价格,但据 CNBC 报道,上一代 H100 的估计售价在每颗 25000 至 40000 美元之间,运行顶级水平的系统需要数千颗。Uchiyama 表示,定价由英伟达的合作伙伴决定。
随着 AI 公司仍然迫切寻找 H100 芯片,英伟达的这一公告具有重要意义。英伟达的芯片被视为高效处理生成图像工具和大型语言模型所需巨量数据的最佳选择。这些芯片足够珍贵,以至于有公司使用它们作为贷款的抵押。谁拥有 H100 成为硅谷的热门话题,初创公司甚至合作共享这些芯片的任何可用性。
Uchiyama 表示,H200 的推出不会影响 H100 的生产。「你将看到我们在今年增加整体供应,并且我们正在长期供应购买,」Uchiyama 在发给 The Verge 的电子邮件中写道。
展望明年,对于 GPU 买家来说或许是更加吉利的时期。英国《金融时报》今年 8 月报道称,英伟达计划在 2024 年将 H100 的产量增加三倍。目标是明年生产多达 200 万颗,相比之下 2023 年约为 50 万颗。但随着生成式 AI 的需求如今仍与年初一样旺盛,需求可能只会更大——这还不包括英伟达推出的更热门新芯片。
Hugging Face发布新开源编程大语言模型StarCoder :可自动写代码、根据指令改代码
企业工作流公司ServiceNow和ML工具开发商HuggingFace开发了一种用于编码的开源大型语言生成AI模型——StarCoderLLM。站长网2023-05-09 12:09:090005出抖入淘,东方甄选没有一哥的烦恼
东方甄选又有新动作了。最近,东方甄选和淘宝正式官宣,将在8月29日进行“东方盘淘会”淘宝直播首秀。当天,新东方创始人俞敏洪、东方甄选CEO孙旭东会亲自带队,和旗下众多主播一起,从上午8点播到晚上12点,总时长达到16个小时。东方甄选想要在淘宝大干一场的决心,不言自明。站长网2023-08-29 17:51:500000腾讯主导发布2023游戏安全白皮书: PC游戏外挂增长超50%
快科技1月19日消息,据腾讯游戏安全官微介绍,近日腾讯游戏安全联合腾讯安全、伽马数据、DataEye发布了《2023游戏安全白皮书》。这是腾讯游戏安全连续第3年主导发布年度游戏安全白皮书,与行业分享在游戏安全对抗中的各类实战经验。其中显示,2023年1-10月腾讯PC游戏外挂保持着高位激烈对抗态势,外挂样本数量按月均值达到3393款同比2022年月均值2278款增长49%。站长网2024-01-19 09:28:230000当“大胃王”被遗忘,年轻人捧红零食博主
“对于小孩来说太幼稚,对大学生和成年人来说刚刚好。”又是一年儿童节,不少成年人也不忘“过节”,而其中一项仪式便是跟着零食主播买零食。站长网2023-06-02 16:05:460003苹果介绍设备端神经网络驱动的「个人声音」辅助功能:残疾人可使用 iPhone 保留自己的声音
今天,苹果分享了一个温馨的广告,展示了其新推出的「个人声音」辅助功能,该功能适用于iPhone、iPad和Mac。图片来自Apple苹果公司在iOS17.iPadOS17和macOSSonoma中引入的个人声音功能允许那些面临失去语言能力风险的用户创建一个类似于他们实际声音的合成语音,以便他们能继续与他人交流。站长网2023-12-01 16:52:580000