腾讯发布超强算力集群HCC 性能提升3倍
站长网2023-04-14 13:56:450阅
腾讯宣布发布面向大模型训练的新一代HCC高性能计算集群(申请内测地址:cloud.tencent.com/act/pro/hccpnv5),整体性能比过去提升了3倍。它搭载了NVIDIA H800Tensor Core GPU,能够提供高性能、高带宽、低延迟的智算能力支撑。
腾讯云HCC采用最新一代星星海自研服务器,基于自研网络、存储架构带来3.2T超高互联带宽、TB级吞吐能力和千万级IOPS。
计算层面,新一代集群的单GPU卡在不同精度下,支持输出最高1979TFlops的算力。针对大模型场景,星星海自研服务器采用6U超高密度设计,相较行业可支持的上架密度提高30%;利用并行计算理念,通过CPU和GPU节点的一体化设计,将单点算力性能提升至更高。
网络层面,腾讯自研的星脉高性能计算网络,具备业界最高的3.2T RDMA通信带宽。实测结果显示,搭载同等数量的GPU,3.2T星脉网络相较1.6T网络,集群整体算力提升20%。
存储层面,腾讯云自研的存储架构,具备TB级吞吐能力和千万级IOPS,支持不同场景下对存储的需求。COS GooseFS对象存储方案和CFS Turbo高性能文件存储方案,充分满足大模型场景下高性能、大吞吐和海量存储要求。
此外,新一代集群集成了腾讯云自研的TACO训练加速引擎,对网络协议、通信策略、AI框架、模型编译进行大量系统级优化,大幅节约训练调优和算力成本。
0000
评论列表
共(0)条相关推荐
Meta 正准备推出新的人工智能聊天机器人角色以吸引年轻用户
据WSJ报道,Meta正在准备推出一款生成式AI聊天机器人,内部称为「GenAIPersonas」,目标用户为年轻人。据悉,这些机器人将以多个「人设」形式推出,旨在通过更加丰富多彩的行为方式吸引年轻用户,而且在过去一年中,聊天机器人应用程序ChatGPT成为增长最快的应用程序之一。报道称,Meta已在Instagram上测试了一些类似的聊天机器人。站长网2023-09-25 09:05:270000雷军称倒霉的地方就是老跟苹果华为比:成功推动了小米进步
近日,在谈到小米汽车未来的发展方向时,雷军在一次访谈中分享了他的见解。雷军强调,模式创新已经达到了一个成熟阶段,小米需要通过技术创新来成为全球科技领域的领导者。他回顾了小米手机从用户体验创新和应用层创新的起步,到现在小米汽车从核心技术开始的转变。小米汽车的目标不仅仅是制造一款SUV,而是要有长远的战略思维,以赢得15年后的市场,而不是仅仅追求短期的胜利。站长网2024-08-06 11:15:350001陶琳:国产特斯拉标配的“远端安全气囊” 真的能救命
快科技11月6日消息,特斯拉对外事务副总裁陶琳分享图片显示:特斯拉国产车型标配远端安全气囊”,媒体称,没几个品牌有,但真能救命。特斯拉表示,专业人士指出,车企的造车成本就像一个天平,重营销、重”装饰,必然会占用在安全性上投入的精力。站长网2023-11-06 19:49:310000大模型都卷麻了,米哈游为啥还来掺一脚
大模型,又添一位新玩家。前不久,米哈游旗下大模型Glossa通过人工智能服务备案,将成为改善用户游戏体验的关键抓手。这意味着,米哈游想吃AI的红利。入局大模型,是米哈游的必由之路?“游戏AI”,为何成为行业的共识?比拼AI硬实力,巨头们更占优?曝光度向上,未解增长乏力困境大模型赛道,愈发拥挤了。0000