通义千问团队开源首个千亿参数模型Qwen1

通义千问团队开源的首个千亿参数模型，Qwen1.5-110B。该模型在基础能力和Chat评估中表现出色，与其他同类模型相比有显著提升。Qwen1.5-110B采用了Transformer解码器架构，支持多种语言，并且具有高效的分组查询注意力机制。在Chat评估中，该模型相较于之前的版本表现更好，显示了更大规模模型的潜力。