开源大语言模型MaLA

无论是开源的LLaMA2还是闭源的GPT系列模型，功能虽然很强大，但对语言的支持和扩展比较差，例如，二者都是以英语为主的大模型。为了提升大模型语言的多元化，慕尼黑大学、赫尔辛基大学等研究人员联合开源了，目前支持语言最多的大模型之一MaLA-500。MaLA-500以LLaMA2为基础模型，再用多语言数据库Glot500-c进行语言扩展训练，支持语言达到了惊人的534种。