华为发布全新昇腾AI计算集群 支持超万亿参数大模型训练
站长网2023-09-20 17:29:470阅
华为在全联接大会2023期间发布了全新架构的昇腾 AI 计算集群 Atlas900SuperCluster,该集群可支持超万亿参数的大模型训练。
该集群采用了全新的华为星河 AI 智算交换机 CloudEngine XH16800,并使用了创新的超节点架构,大大提升了大模型训练能力。

此外,华为还发布了更开放、更易用的 CANN7.0,让开发者可以更直接地调用和管理计算资源,使大模型具备差异化的竞争力。华为还升级了 Ascend C 编程语言,提供更高效的编程方式。
该集群还通过提升系统可靠性,将大模型训练的稳定性从天级提升到月级。
0000
评论列表
共(0)条相关推荐
阿里CEO吴泳铭:在可见的未来,AI 助理会无处不在
今日,2023年世界互联大会乌镇峰会开幕。阿里巴巴集团CEO吴泳铭在会上表示,阿里巴巴正在成为一家开放的科技平台企业,将为千行百业AI的创新和转型提供基础设施。图源备注:图片由AI生成,图片授权服务商Midjourney站长网2023-11-08 16:04:530000微信:9月15日起 需同意小程序隐私保护指引才可调用隐私接口
为规范开发者的用户个人信息处理行为,保障用户的合法权益,微信公众平台表示,自2023年9月15日起,对于涉及处理用户个人信息的小程序开发者,微信要求,仅当开发者主动向平台同步用户已阅读并同意了小程序的隐私保护指引等信息处理规则后,方可调用微信提供的隐私接口。站长网2023-08-15 08:22:140005时隔3年正式回归连更2条作品 李子柒:还有存货正在剪
时隔三年之久,网红李子柒正式宣告复出,于今日在各大平台更新视频。李子柒上传了酝酿四年的“大漆”视频和“森林衣帽间”视频,并配文表示:“大漆视频迟到了四年,真的很想念大家”。网友留言询问:“是不是积累了很多存货?”李子柒回复称:“再稍等一下,我还在剪辑!”并附上了一张视频剪辑的图片。在最新视频中,李子柒以中国非物质文化遗产漆器为主题,展示了漆器的独特美学和工艺之美。站长网2024-11-17 10:40:490000科学家:距离地球175光年外,有重大发现
行星科学家在距地球175光年的HIP104045恒星中发现了系外行星。这颗恒星的年龄和性质都接近太阳,其系统至少包括两颗气态巨行星。其中第一个,HIP104045b,重量大约是木星的一半,并在6.3年内绕其恒星运行。第二个是HIP104045c,是一颗热超海王星:它的质量约为海王星的2.5倍,但在316天的轨道上更靠近恒星,类似于地球。站长网2023-05-25 03:33:490000Meta祭出三篇最详尽Llama微调指南!千字长文,0基础小白必备
【新智元导读】微调的所有门道,都在这里了。开源,就要开的彻彻底底。这不,Meta一连放出三篇技术文章,从大模型适配方法出发,介绍了:如何使用特定领域数据微调LLM,如何确定微调适配自己的用例,以及如何管理良好训练数据集的经验法则。接下来,直接进入正题。适配大模型预训练预训练是指,使用数万亿个token数据,从头开始训练LLM的过程,通常使用自监督算法进行训练。站长网2024-08-27 18:00:300000