登陆注册
11967

ULTRA:知识图谱推理的预训练基础模型

站长网2023-10-31 10:22:321

要点:

1. ULTRA是一个用于知识图谱(KGs)推理的预训练基础模型,能够在各种KGs上学习通用和可迁移的图表示,甚至在零样本情况下表现出色。

2. 该研究团队提出ULTRA模型,旨在学习多用途的图表示,与基于文本的方法不同,无需依赖文本信息,还强调实验中使用的数据集类型,包括传导和归纳数据集。

3. ULTRA通过关系互动创建关系图,使其能够在具有不同实体和关系词汇的任何KG上推理,提供了一个通用的图表示方法,便于在不同规模和关系词汇的KG之间进行有效的预训练和微调。

ULTRA是一个旨在推理知识图谱(KGs)的预训练基础模型。ULTRA的关键创新在于它能够学习通用和可迁移的图表示,而无需依赖文本信息。它通过在不同KG中创建关系图,能够在各种实体和关系词汇下进行推理,甚至在零样本情况下表现出色,常常超越专门的基准模型。

项目地址:https://github.com/DeepGraphLearning/ULTRA

研究人员通过三步算法实现了ULTRA的功能,包括提升图、根据查询获取关系表示以及预测链接。ULTRA在57个KG上的性能表现出色,特别是在零样本推理方面。通过微调,ULTRA的性能进一步提升,与基准模型相媲美甚至优于那些仅在特定图上训练的模型。

总的来说,ULTRA提供了通用和可迁移的图表示,对于多关系图的训练和推理非常出色,而无需输入特征。它不仅在各种KG上表现出色,甚至在零样本情况下也能实现卓越的性能。未来的研究将探索更多捕捉关系之间互动的策略,以及更全面的评估指标。

这项研究鼓励深入研究迁移学习对KG表示学习的潜在益处,并建议研究归纳学习方法,以实现对具有不同关系集的KGs的泛化。

总之,ULTRA的通用性和可迁移性使其成为归纳和可迁移的知识图谱推理的有望选择,对于各种不同关系结构的新KGs都能表现出色。

0001
评论列表
共(0)条