ULTRA:知识图谱推理的预训练基础模型
要点:
1. ULTRA是一个用于知识图谱(KGs)推理的预训练基础模型,能够在各种KGs上学习通用和可迁移的图表示,甚至在零样本情况下表现出色。
2. 该研究团队提出ULTRA模型,旨在学习多用途的图表示,与基于文本的方法不同,无需依赖文本信息,还强调实验中使用的数据集类型,包括传导和归纳数据集。
3. ULTRA通过关系互动创建关系图,使其能够在具有不同实体和关系词汇的任何KG上推理,提供了一个通用的图表示方法,便于在不同规模和关系词汇的KG之间进行有效的预训练和微调。
ULTRA是一个旨在推理知识图谱(KGs)的预训练基础模型。ULTRA的关键创新在于它能够学习通用和可迁移的图表示,而无需依赖文本信息。它通过在不同KG中创建关系图,能够在各种实体和关系词汇下进行推理,甚至在零样本情况下表现出色,常常超越专门的基准模型。

项目地址:https://github.com/DeepGraphLearning/ULTRA
研究人员通过三步算法实现了ULTRA的功能,包括提升图、根据查询获取关系表示以及预测链接。ULTRA在57个KG上的性能表现出色,特别是在零样本推理方面。通过微调,ULTRA的性能进一步提升,与基准模型相媲美甚至优于那些仅在特定图上训练的模型。
总的来说,ULTRA提供了通用和可迁移的图表示,对于多关系图的训练和推理非常出色,而无需输入特征。它不仅在各种KG上表现出色,甚至在零样本情况下也能实现卓越的性能。未来的研究将探索更多捕捉关系之间互动的策略,以及更全面的评估指标。
这项研究鼓励深入研究迁移学习对KG表示学习的潜在益处,并建议研究归纳学习方法,以实现对具有不同关系集的KGs的泛化。
总之,ULTRA的通用性和可迁移性使其成为归纳和可迁移的知识图谱推理的有望选择,对于各种不同关系结构的新KGs都能表现出色。
研究发现大型 AI 数据集包含虐待儿童图像:该数据集已用于构建流行的人工智能图像生成器,包括 Stable Diffusion
根据斯坦福互联网观察站周三发布的一项新研究,流行的人工智能(AI)图像生成器的基础数据库中隐藏着数千张儿童性虐待图片(CSAM)。作为对这一研究的回应,一些最大和最常用的图像数据库的运营商关闭了对它们的访问权限。0001vivo X100 Ultra今日开售 首销1小时累计销售额破5亿
中关村在线消息:5月28日,vivoX100Ultra正式开售,起售价12GB256GB版本6499元。vivo官方表示,该机开售1小时累计销售金额破5亿,感谢所有用户对产品的认可和支持。站长网2024-05-28 17:28:200000一块冰箱贴,如何被卷成了大生意?
冰箱贴又双叒断货了。亚冬会2月7日开幕前,特许零售店里的冰箱贴产品也已供不应求,据媒体报道,“冰火之约”冰箱贴在哈尔滨市场已售罄,在北京也仅剩下十余件;“冰雪同梦”冰箱贴的销量高达四五万件,目前在北京也已断货。去年以来,#冰箱贴断货##定闹钟抢冰箱贴#就已经不算什么新鲜事。0000比Stable Diffusion便宜118倍!1890美元训出11.6亿参数高质量文生图模型
【新智元导读】近日,来自加州大学尔湾分校等机构的研究人员,利用延迟掩蔽、MoE、分层扩展等策略,将扩散模型的训练成本降到了1890美元。训练一个扩散模型要多少钱?之前最便宜的方法(Wuerstchen)用了28400美元,而像StableDiffusion这样的模型还要再贵一个数量级。大模型时代,一般人根本玩不起。想要各种文生小姐姐,还得靠厂商们负重前行站长网2024-08-13 09:44:250000