智源研究院开源JudgeLM 可评测各类大模型并输出评分

智源研究院开源了一种名为 JudgeLM 的裁判模型，可以高效准确地评判各类大模型。

与 GPT-4相比，JudgeLM 仅需1/120的成本，就能达到90% 以上的评判结果一致性。它可以应用于纯文本、多模态等多种评判场景，并可以输出评分、判断和阐述理由。

通过创新方法，JudgeLM 与参考答案的一致性最高超过了90%，接近人类表现。JudgeLM 有三个不同参数版本，分别为70亿、130亿和330亿参数，能力和表现随着参数规模的增大而提升。

此外，智源研究院还开源了一个包含训练和验证样本的数据集，用于深入研究大语言模型裁判。JudgeLM 的评判效率高，成本低于基于 API 的评判方法。

未来，JudgeLM 团队将进一步完善这一裁判模型，提供更准确、高效、覆盖更多场景的大语言模型评判。

JudgeLM 相关资源:

github :https://github.com/baaivision/JudgeLM

arxiv :https://arxiv.org/abs/2310.17631

demo（33B） :https://218.91.113.230:9004/