港大开源图基础大模型OpenGraph 增强图学习泛化能力
香港大学数据智能实验室主任黄超团队开发了一款名为 OpenGraph 的图基础大模型,专注于在多种图数据集上进行零样本预测。该模型通过学习通用的图结构模式,仅通过前向传播即可对全新数据进行预测,有效缓解了图学习领域的数据饥荒问题。
关键特点:
强泛化能力:OpenGraph 旨在通过图结构模式学习,实现对未见数据的零样本预测。
提示调整技术:团队提出的提示调整技术提高了模型对新任务的适应性。
GitHub 开源:该工作已在 GitHub 上开源,供学术界和工业界使用和研究。
数据集间 token 差异解决:模型能够跨不同图数据集进行预测,解决了数据集间 token 差异的问题。
节点关系建模:在构建通用图模型时,有效建模节点关系,对模型的扩展性和效率至关重要。
数据稀缺问题的解决:通过大型语言模型进行数据增强,模拟复杂的图结构关系,提升模型训练质量。
模型架构:OpenGraph 模型由统一图 Tokenizer、可扩展的图 Transformer 和基于大语言模型的知识蒸馏技术三个核心部分组成。
实验验证:在多样化的真实场景数据集上进行测试,涵盖节点分类和链接预测任务,OpenGraph 在零样本预测中表现优异。
未来工作:团队计划增加框架的自动化能力,自动识别噪声连接,进行反事实学习,并提取图结构的通用模式,以推动模型的应用范围和效果。
研究结论:
OpenGraph 作为图基础模型构建的初步尝试,通过在多个标准数据集上的广泛测试,证明了其出色的泛化性能。研究人员希望借助 OpenGraph 显著增强模型在零样本图学习任务中的泛化能力,并探索多种下游应用。
项目地址:https://github.com/HKUDS/OpenGraph
论文地址:https://arxiv.org/pdf/2403.01121
公安部:破获“AI换脸”侵犯公民个人信息犯罪案件79起
8月10日,公安部召开新闻发布会,通报公安机关打击侵犯公民个人信息违法犯罪成效情况。公安部表示,随着人脸识别技术的广泛应用和人工智能技术的进步,人脸识别验证类犯罪伴随而生。犯罪分子用于实施“AI换脸”的物料主要为照片,特别是身份证照片,同时结合人员姓名、身份证号来突破人脸识别验证系统。站长网2023-08-10 11:51:160000年轻人爱上“9.9包邮”,电商平台迎来价格战2.0
如今打开社交平台或电商平台,首先映入眼帘,吸引你注意的,大概率会是“百亿补贴”、“好价专区”。在淘宝上,“淘宝好价”频道直标“1元1件全场包邮”;在小红书和抖音上,从零食到发绳再到厨房用品等,时不时推荐着不到十元的好物;更不用提拼多多,“9块9特卖”和“百亿补贴”一直抢眼……站长网2023-09-28 18:10:510000OpenAI 宣布为 ChatGPT Plus 增加自定义指令功能 未来几周内扩展到所有用户
OpenAI发布博客文章宣布引入了自定义指令,以便用户可以定制ChatGPT来更好地满足需求。该功能将从今天的Plus计划开始提供测试版,并在未来几周内扩展到所有用户。自定义指令允许用户添加希望ChatGPT在生成响应时考虑的首选项或要求。站长网2023-07-21 15:17:280000谷歌加快了AI摘要的速度 为SGE添加了更多视觉效果
谷歌推出了三项新功能,它们都是由其生成式人工智能(AI)驱动的,旨在改善用户的搜索体验。这些新功能在公司网站上的一篇博客文章中宣布,是在今年推出的谷歌搜索生成式体验(SGE)的基础上建立的。站长网2023-08-03 10:00:580000AI文生图工具Ideogram获8000万美元融资 文字渲染吊打Midjourney
**划重点:**1.🌐Ideogram在多模态生图领域融资8000万美元,JeffDean和Karpathy等硅谷大佬参与投资。2.🚀文生图工具展现强大文字渲染能力,生成梗图和表情包方面超越Midjourney。3.💲亲民收费,提供MagicPrompt功能,降低用户生成高质创意图片的门槛。站长网2024-03-01 14:17:110001