亚马逊 AWS 推出 Amazon EC2 Capacity Blocks 服务,为人工智能项目提供按需 Nvidia H100 GPU 资源
站长网2023-11-02 16:54:470阅
为了解决大型语言模型运行所需的 GPU 资源短缺问题,亚马逊 AWS 今日推出了 Amazon Elastic Compute Cloud (EC2) Capacity Blocks for ML 服务。该服务允许客户按照定义的时间购买 Nvidia H100 Tensor Core GPU 资源,用于执行特定的 AI 相关任务,如训练机器学习模型或运行现有模型的实验。
AWS 的 Channy Yun 在博客中写道:「这是一种创新的 GPU 实例调度方式,您可以预订未来日期所需的实例数量,仅按您需要的时间长度计费。」
客户可以按集群大小购买 1 至 64 个实例,每个实例含 8 个 GPU,并可预订最长 14 天的使用时间,最多可提前 8 周预订。预定时间结束后,实例将自动关闭。
这种新的购买方式让客户能够像预订酒店房间一样,预定一段时间内所需的实例数量。这种方式为客户提供了成本确定性,他们将清楚地知道任务的运行时长、需要使用的 GPU 数量以及前期的费用。
对于亚马逊来说,它们可以在类似拍卖的环境中投放这些炙手可热的资源,确保收入(前提是有客户购买)。资源的价格将根据供需关系动态变化。
用户在注册该服务时,系统会显示预定时间和资源的总成本。用户可以根据自己的资源需求和预算来调整这个数字,然后再决定是否购买。
该新功能从今天开始在 AWS 美国东部(俄亥俄州)区域提供。
0000
评论列表
共(0)条相关推荐
台积电四季度营收同比基本持平 净利润同比减少19.3%
1月18日消息,据媒体报道,今日,台积电公布了截至2023年12月31日的2023年第四季度财报。财报显示,该公司第四季度的合并营收约为6255.3亿新台币,同比基本持平,环比增长14.4%;净利润约为2387.1亿新台币,同比减少19.3%,环比增长13.1%;摊薄后的每股收益为9.21新台币,同比减少19.3%。站长网2024-01-19 09:23:170000谷歌将使用类似Bard的AI技术升级 Assistant 助手功能
谷歌计划通过AI技术的升级来更新Assistant助手。这意味着Assistant将变得更加强大和智能,可能会具备类似于ChatGPT和Bard的功能。站长网2023-08-01 10:02:180000月之暗面撞上算力墙?
“不好意思,刚刚和Kimi聊的人太多了。Kimi有点累了,可以晚点再问我一遍。”近期正在赶毕业论文的娄晓彤,时不时仍会收到AI助手Kimi无法使用的提示。站长网2024-05-07 19:48:540000Discord更新政策,禁止 AI 生成儿童性虐待相关内容
上个月,NBCNews进行了一项关于该平台儿童安全问题的调查后,Discord的信任与安全负责人表示,该平台将对青少年约会和AI生成的儿童性虐待材料等方面的儿童安全政策进行变更和澄清。站长网2023-07-12 17:26:040000成都上半年人工智能产业规模达 424 亿元 同比增长 36.9%
成都市政府官网发布消息,成都布局人工智能产业由来已久,产业规模发展持续壮大。2022年全市人工智能产业规模为616亿元,位列全国第7,产业增速位居全国第1,综合实力排名全国第6。今年上半年产业规模达424亿元,同比增长36.9%。站长网2023-08-07 09:21:590000