亚马逊宣布推出新的人工智能芯片「Trainium2」,深化与英伟达的合作关系
亚马逊的云计算部门 AWS 宣布推出新的芯片,供客户构建和运行人工智能应用程序,同时计划提供对 Nvidia 最新芯片的访问。

亚马逊 AWS 服务致力于作为云提供商脱颖而出,提供多种成本效益高的选项。它不仅销售廉价的亚马逊品牌产品。与其在线零售市场一样,亚马逊的云服务还将提供其他供应商的顶级产品,包括来自顶级 AI 芯片制造商 Nvidia 的备受追捧的 GPU。
自从创业公司 OpenAI 去年发布其 ChatGPT 聊天机器人以来,对 Nvidia GPU 的需求激增,该机器人以总结信息和撰写类似人类的文本的能力惊艳了人们。这导致 Nvidia 芯片短缺,因为公司争相将类似的生成式 AI 技术纳入其产品中。
亚马逊的双管齐下策略,即建造自己的芯片并让客户访问 Nvidia 的最新芯片,可能会帮助它对抗其最大的云计算竞争对手微软。本月早些时候,微软采取了类似的方法,公布了其首款 AI 芯片 Maia 100,并表示 Azure 云将配备 Nvidia H200 GPU。
这一消息是在周二拉斯维加斯的 Reinvent 大会上宣布的。具体来说,AWS 表示将提供对 Nvidia 最新 H200 AI 图形处理单元的访问。它还宣布了新的 Trainium2 人工智能芯片和通用 Graviton4 处理器。
新的 Nvidia GPU 是从 H100 升级而来,OpenAI 用它来训练其最先进的大型语言模型 GPT-4。大公司、初创企业和政府机构都在争夺有限的芯片供应,这意味着像亚马逊这样的云提供商出租芯片的需求也很高。Nvidia 表示,H200 将产生的输出速度几乎是 H100 的两倍。
亚马逊自己的 Trainium2 芯片是为训练 AI 模型而设计的,包括 OpenAI 的 ChatGPT 及其竞争对手运行的那种 AI 聊天机器人。初创公司 Databricks 和亚马逊支持的 Anthropic(OpenAI 的竞争对手)计划使用新的 Trainium2 芯片构建模型,亚马逊表示,这将使性能比原始型号提高四倍。
Graviton4 处理器基于 Arm 架构,比英特尔或 AMD 的芯片节能。Graviton4 承诺比现有的 Graviton3 芯片性能提高 30%,AWS 表示这将使输出与价格更匹配。由于通货膨胀高于平时,中央银行提高了利率。希望继续使用 AWS 但降低云账单以更好应对经济的组织可能希望考虑转移到 Graviton。
亚马逊表示,已有超过 50,000 名 AWS 客户正在使用 Graviton 芯片。
最后,作为与 Nvidia 关系加深的一部分,AWS 表示将运营超过 16,000 个 Nvidia GH200 Grace Hopper Superchips,
这些芯片包含 Nvidia GPU 和 Nvidia 基于 Arm 的通用处理器。Nvidia 自己的研发小组和 AWS 客户都将能够利用这一基础设施。
自 2006 年推出其 EC2 和 S3 用于计算和存储数据的服务以来,AWS 已经推出了 200 多种云产品。并非所有产品都成功。有些产品长时间没有更新,极少数产品被停产,使亚马逊可以重新分配资源。然而,公司继续投资于 Graviton 和 Trainium 项目,这表明亚马逊感知到了需求。
AWS 尚未宣布带有 Nvidia H200 芯片的虚拟机实例的发布日期,也没有宣布依赖其 Trainium2 芯片的实例。客户现在可以开始测试 Graviton4 虚拟机实例,然后再在未来几个月内投入商业使用。
小红书的灵魂是评论区
一年小红书重度用户谈谈粗浅的个人理解。我也想谈一谈小红书。上周池老师提到了他眼中的小红书流量分配机制的神奇,这已经被很多的案例证明过。比如有女生在垃圾堆找到了一位学者的遗物。比如有远在马来西亚的亲属在两天之内就找到了。比如一个叫小奈的女生,自己小小的世界被很多人发现了,然后被半佛老师发现了,从而她经历了成为网红之后要经历的一切。站长网2025-01-14 18:19:400000新能源品牌周销量来了:比亚迪再次稳居榜首 小鹏杀进第七
快科技10月25日消息,日前,根据各品牌公布的信息我们了解到,在刚刚过去的一周里,新能源汽车的市场发生了很大的变化。从各品牌公布的数据来看,比亚迪依旧稳居榜首,一周卖出了5.19万辆新能源汽车。五菱汽车紧随其后,从上周的第四名成功杀进前三,以0.94万辆的成绩拿下第二,埃安稳扎稳打,以0.93万辆的成绩荣获第三。站长网2023-10-25 20:14:340000白宫报告称美国10%的员工面临高度暴露于人工智能的风险
划重点:-🤖10%的美国员工处于与人工智能高度暴露且绩效要求较低的岗位-📉20%的美国员工处于与人工智能高度暴露的职业中-💼AI可能会改变工作方式而非完全淘汰岗位站长网2024-03-23 00:22:310000被偷跑的《黑神话:悟空》们,拿什么回击泄密者?
和近年来的所有热门游戏一样,万众瞩目的《黑神话:悟空》也没能逃过泄密。就在正式发售前夕,几段几十秒长度的游戏视频开始在互联网上传播,四散于各个群聊和视频平台。尽管游戏科学针对相关泄密采取了一定补救手段,但想要彻底阻断其民间传播,放在网络环境无比复杂的当下恐怕并不容易。站长网2024-08-22 08:57:400000联想集团:AI 服务器等基础设施业务年收入超 20 亿美元
联想集团ISG(基础设施方案业务集团)日前宣布其全球AI基础设施业务年度收入突破20亿美元,并公布其下一阶段增长战略,即未来三年将追加投资10亿美元,以加速全球企业的AI部署。站长网2023-06-16 16:20:460000