参数小

划重点:1.💻Gemma是谷歌开源的大语言模型，性能强悍，可商用。采用Gemini架构，有20亿、70亿参数版本，测试显示在数学、推理、代码方面超过Llama-2。

安徽工程大学、南洋理工大学和理海大学的研究人员开源了多模态大模型——TinyGPT-V。TinyGPT-V以微软开源的Phi-2作为基础大语言模型，同时使用了视觉模型EVA实现多模态能力。尽管TinyGPT-V只有28亿参数，但其性能可以媲美上百亿参数的模型。此外，TinyGPT-V训练只需要24GGPU就能完成，不需要A100、H100那些高端显卡来训练。