腾讯发布超强算力集群HCC 性能提升3倍
站长网2023-04-14 13:56:450阅
腾讯宣布发布面向大模型训练的新一代HCC高性能计算集群(申请内测地址:cloud.tencent.com/act/pro/hccpnv5),整体性能比过去提升了3倍。它搭载了NVIDIA H800Tensor Core GPU,能够提供高性能、高带宽、低延迟的智算能力支撑。
腾讯云HCC采用最新一代星星海自研服务器,基于自研网络、存储架构带来3.2T超高互联带宽、TB级吞吐能力和千万级IOPS。
计算层面,新一代集群的单GPU卡在不同精度下,支持输出最高1979TFlops的算力。针对大模型场景,星星海自研服务器采用6U超高密度设计,相较行业可支持的上架密度提高30%;利用并行计算理念,通过CPU和GPU节点的一体化设计,将单点算力性能提升至更高。
网络层面,腾讯自研的星脉高性能计算网络,具备业界最高的3.2T RDMA通信带宽。实测结果显示,搭载同等数量的GPU,3.2T星脉网络相较1.6T网络,集群整体算力提升20%。
存储层面,腾讯云自研的存储架构,具备TB级吞吐能力和千万级IOPS,支持不同场景下对存储的需求。COS GooseFS对象存储方案和CFS Turbo高性能文件存储方案,充分满足大模型场景下高性能、大吞吐和海量存储要求。
此外,新一代集群集成了腾讯云自研的TACO训练加速引擎,对网络协议、通信策略、AI框架、模型编译进行大量系统级优化,大幅节约训练调优和算力成本。
0000
评论列表
共(0)条相关推荐
印度一名 CEO 因选择人工智能机器人而不是人类员工而受到批评
印度一名首席执行官因表示其公司已经用人工智能(AI)聊天机器人取代了90%的支持人员而受到批评。Dukaan的创始人SuumitShah在Twitter上表示,聊天机器人大大提高了客户问题的首次响应和解决时间。这条推文引发了网上的愤慨。此时,关于AI夺走人们的工作,尤其是在服务行业,已经引发了很多讨论和担忧。站长网2023-07-14 09:50:370000又一款AI写真软件刷屏!“妙鸭”们卷起来了,谁能胜出?
妙鸭相机爆火出圈后,乘着真人电影《芭比》上映的热度,这几天,一款可以生成芭比写真的小程序“45AI”走红社交媒体,圆了数万网友的芭比公主梦。跟妙鸭相机的玩法类似,用户只要上传9至15张清晰的正、侧面照,支付9.9元,即可获得一组AI生成的写真。45AI的用户增长也依赖网友的社交媒体分享和社交裂变传播,且付费用户可以将自己的邀请码分享给3个人免费体验。站长网2023-07-31 15:25:230003微软新闻网站MSN AI乱文再现 编辑监管仍存漏洞
最近,微软新闻门户网站MSN再次传出发布由人工智能生成的无意义文章事件。知名科技新闻网站Futurism报道,MSN日前发表一篇关于已故NBA球员布兰登·亨特的文章,全文语无伦次,疑似直接抄袭并修改TMZ的相关报道内容。这已经不是MSN第一次发布此类AI乱文。图源备注:图片由AI生成,图片授权服务商Midjourney站长网2023-09-18 15:03:190000涨价引发众怒一年后,今天Unity向游戏行业低头了
昨日(9月12日),Unity官方发布了一则消息,首先提到一项重要调整:他们决定全面取消游戏客户的Runtime费用——即俗称的运行费/安装费,即刻生效(非游戏领域的工业客户不会受到这一调整的影响)。文章的署名,是Unity的新任CEOMattBromberg。0000东方甄选称厂家回应未用槽头肉:等待最终调查结果
在3月18日的公告中,东方甄选针对近期媒体报道的“御徽缘梅菜扣肉”事件,向广大消费者作出了详细的回应,并公布了目前调查进展及后续处理措施。东方甄选表示,始终致力于为客户甄选优质好物,以守护客户的餐桌,为客户提供健康、美好的生活。对于此次“御徽缘梅菜扣肉”事件给消费者带来的困扰,我们深表歉意,并恳请广大消费者耐心等待我们的最终调查结果。站长网2024-03-18 15:30:380000