AI芯片公司墨芯人工智能再夺MLPerf大模型推理三项冠军

要点:MLPerf公布最新GPT大模型推理测试结果，墨芯人工智能S30计算卡单卡、4卡、8卡的算力均获得第一。墨芯通过独创的双稀疏算法与硬件协同设计，在GPT-J大模型上取得1.8倍于英伟达H100的性能优势。墨芯的成绩证明，稀疏计算是大模型时代算力发展的关键，可根本解决大模型参数增长与算力瓶颈的矛盾。