腾讯披露最新大模型训练方法

要点:腾讯披露混元大模型训练方法，Angel框架升级，大模型训练效率提升至2.6倍，千亿级大模型训练可节省50%算力成本。AngelPTM机器学习训练框架通过多维度并行优化存储，在通讯方面采用软硬件结合解决方案，提高大模型训练稳定性。腾讯推出大模型推理框架AngelHCF，通过扩展并行能力和关键能力优化，相较于主流框架，推理速度提高了1.3倍。