可运行5万亿参数模型

文章概要:-SambaNova发布了一款智能AI芯片SN40L，可运行高达5万亿参数的模型，实现快速可扩展的推理和训练，而不损害模型准确性。-这款由TSMC制造的SN40L芯片可以在单个系统节点上为5万亿参数模型提供256k的序列长度，这是通过整合技术的新突破，大大提高了模型质量、推理速度，并降低了总拥有成本。