微软开源最强小参数大模型

4月23日晚，微软在官网开源了小参数的大语言模型——Phi-3-mini。据悉，Phi-3-mini是微软Phi家族的第4代，有预训练和指令微调多种模型，参数只有38亿训练数据却高达3.3Ttokens，比很多数百亿参数的模型训练数据都要多，这也是其性能超强的主要原因之一。