在CPU上跑AI更香了

千呼万唤始出来，第五代英特尔®至强®可扩展处理器，它来了!若是用一句话来概括它的特点，那就是——AI味道越发得浓厚。以训练、推理大模型为例:与第四代相比，训练性能提升多达29%，推理性能提升高达42%;与第三代相比，AI训练和推理性能提升高达14倍。什么概念?现在若是将不超过200亿参数的模型“投喂”给第五代至强®可扩展处理器，那么时延将低到不超过100毫秒!