登陆注册

70B登顶HuggingFace开源大模型排行榜

  • 鸭嘴兽-70B登顶HuggingFace开源大模型排行榜

    要点:鸭嘴兽-70B使用优化过的数据集Open-Platypus训练,删除相似和重复问题。应用LoRA和PEFT对模型进行微调,重点优化非注意力模块。检查并解决测试数据泄漏和训练数据污染问题。最近,来自波士顿大学的鸭嘴兽-70B模型登顶了HuggingFace的开源大模型排行榜,成为目前全球开源领域中表现最强的语言模型。鸭嘴兽的变强有以下三个关键原因:
    站长网2023-08-26 10:25:21
    0000