登陆注册

斯坦福提出

  • 斯坦福提出“统一归因”框架 保证大模型输出的真实性和可靠性

    随着大型语言模型在实际业务中的广泛应用,确保其输出的真实性和可靠性成为亟待解决的问题。学术界采用“归因”方法来追踪和证实模型输出的内容。当前研究领域主要分为两大派系,即协同归因和贡献归因。前者关注验证大模型输出的正确性,后者用于确定训练数据对模型输出的影响程度。在法律、医疗、金融等领域,对内容准确性有高要求的行业,这两种方法至关重要。
    站长网2023-12-21 09:43:38
    0002
  • 可验证大模型输出、训练来源,斯坦福提出“统一归因”框架

    随着ChatGPT等大模型被广泛应用在实际业务中,其输出内容的真实、可靠、安全性成为了重点。学术界则使用“归因”来表示追查、证实内容。目前,在“归因”研究领域有两大派系,一种是协同归因,主要追查引用数据和训练数据来源;另外一种是贡献归因,证明模型输出内容的真实性以减少幻觉。这两种归因方法对于法律、医疗、金融等,对于内容准确率要求极高的行业应用大模型至关重要。
    站长网站长资讯2023-12-21 14:07:07
    0000