TOWER: 开放式多语言大语言模型，用于翻译相关任务

划重点:

- 💡 人工智能大语言模型在多语言自然语言处理领域展现出巨大潜力

- 💡 TOWER 是一款开放式大型语言模型，旨在提升多语言翻译能力

- 💡 TOWER 的开源性质为翻译技术创新铺平道路

在当今日益全球化的时代，准确高效的跨多语言翻译需求前所未有的增长。传统的翻译方法虽然有效，但在可扩展性和多样性方面仍有待提升，这促使研究人员探索更为动态的解决方案。人工智能的领域开始重新定义多语言自然语言处理的边界，其中大型语言模型（LLMs）在重塑翻译领域的复杂语言细微差别方面发挥着重要作用。

TOWER 的诞生源于对当前模型限制的认识和对更全面翻译方法的必要性。该团队创建了一个模型，能够在多种语言和各种翻译相关任务中表现出色，从而为开源模型能够实现的新标准奠定了基础。TOWER 的方法论始于在十种语言中横跨200亿个令牌的庞大数据集上进行广泛预训练，形成基础模型 TOWER BASE。然后，在一个精心策划的数据集 TOWER BLOCKS 上进行名为 TOWER INSTRUCT 的细化调整过程。这个数据集专门针对翻译相关任务进行了定制，使模型能够在其中表现出色。

与现有的开源替代方案相比，TOWER 在各种基准测试中持续提供优越的结果，展示了其在翻译质量和任务执行方面的实力。TOWER 在挑战常见观念 —— 专有模型优于开源对应物 —— 方面表现出竞争优势。通过为多语言 LLM 设立新的基准，TOWER 为翻译技术领域未来的创新铺平了道路。其开源性确保模型对广泛受众可访问，促进了一个合作环境，研究人员和从业者可以共同推动其发展。 TOWER 的发布及其随附的数据集和评估框架体现了推动人工智能发展所必需的透明和社区精神。

TOWER 代表了迈向更具包容性和有效性解决多语言翻译挑战的重大进步。通过弥合语言多样性和任务特定功能之间的鸿沟，TOWER 提升了 LLMs 的能力，重新定义了翻译技术的可能性。

论文网址：https://arxiv.org/abs/2402.17733

模型入口：https://huggingface.co/collections/Unbabel/tower-659eaedfe36e6dd29eb1805c