8枚芯片撑起3个GPT

高端GPU持续缺货之下，一家要挑战英伟达的芯片初创公司成为行业热议焦点。8枚芯片跑大模型，就能支持5万亿参数（GPT-4的三倍）。这是独角兽企业SambaNova刚刚发布的新型AI芯片SN40L——型号中40代表是他们第四代产品，L代表专为大模型（LLM）优化:高达1.5T的内存，支持25.6万个token的序列长度。