DeepMind让大模型学会归纳和演绎,GPT-4准确率提升13.7%
当前,大型语言模型(LLM)在推理任务上表现出令人惊艳的能力,特别是在给出一些样例和中间步骤时。然而,prompt 方法往往依赖于 LLM 中的隐性知识,当隐性知识存在错误或者与任务不一致时,LLM 就会给出错误的回答。
现在,来自谷歌、Mila 研究所等研究机构的研究者联合探索了一种新方法 —— 让 LLM 学习推理规则,并提出一种名为假设到理论(Hypotheses-to-Theories,HtT)的新框架。这种新方法不仅改进了多步推理,还具有可解释、可迁移等优势。
论文地址:https://arxiv.org/abs/2310.07064
对数值推理和关系推理问题的实验表明,HtT 改进了现有的 prompt 方法,准确率提升了11-27%。学到的规则也可以迁移到不同的模型或同一问题的不同形式。
方法简介
总的来说,HtT 框架包含两个阶段 —— 归纳阶段和演绎阶段,类似于传统机器学习中的训练和测试。
在归纳阶段,LLM 首先被要求生成并验证一组训练样例的规则。该研究使用 CoT 来声明规则并推导答案,判断规则的出现频率和准确性,收集经常出现并导致正确答案的规则来形成规则库。
有了良好的规则库,下一步该研究如何应用这些规则来解决问题。为此,在演绎阶段,该研究在 prompt 中添加规则库,并要求 LLM 从规则库中检索规则来进行演绎,将隐式推理转换为显式推理。
然而,该研究发现,即使是非常强大的 LLM(例如 GPT-4)也很难在每一步都检索到正确的规则。为此,该研究开发了 XML tagging trick,来增强 LLM 的上下文检索能力。
实验结果
为了评估 HtT,该研究针对两个多步骤推理问题进行了基准测试。实验结果表明,HtT 改进了少样本 prompt 方法。作者还进行了广泛的消融研究,以提供对 HtT 更全面的了解。
他们在数值推理和关系推理问题上评估新方法。在数值推理中,他们观察到 GPT-4的准确率提高了21.0%。在关系推理中,GPT-4的准确性提高了13.7%,GPT-3.5则获益更多,性能提高了一倍。性能增益主要来自于规则幻觉的减少。
具体来说,下表1显示了在算术的 base-16、base-11和 base-9数据集上的结果。在所有 base 系统中,0-shot CoT 在两个 LLM 中的性能都最差。
表2呈现了在 CLUTRR 上比较不同方法的结果。可以观察到,在 GPT3.5和 GPT4中,0-shot CoT 的性能最差。对于 few-shot 提示方法,CoT 和 LtM 的性能相似。在平均准确率方面,HtT 始终比两种模型的提示方法高出11.1-27.2%。值得注意的是,GPT3.5在检索 CLUTRR 规则方面并不差,而且比 GPT4从 HtT 中获益更多,这可能是因为 CLUTRR 中的规则比算术中的规则少。
值得一提的是,使用 GPT4的规则,GPT3.5上的 CoT 性能提高了27.2%,是 CoT 性能的两倍多,接近 GPT4上的 CoT 性能。因此,作者认为 HtT 可以作为从强 LLM 到弱 LLM 的一种新的知识蒸馏形式。
表3显示,HtT 显著提高了 GPT-4(文本版)的性能。对于 GPT3.5来说,这种改进并不显著,因为在处理文本输入时,它经常产生除规则幻觉以外的错误。
五家大厂瓜分春节流量:谁赔本?谁赢了?
春节历来是互联网公司的超级战场,2024年龙年春节的过节氛围里,已经透出了互联网大厂的火药味。如果把镜头拉高拉远,我们可以看到剑拔弩张的两大战场:第一个战场,也是龙年春节最大战场——春晚。这一届,砸钱派的代表是京东和小红书。站长网2024-01-31 09:02:460000语音合成工具Narakeet:输入文本即可快速创建解说视频
Narakeet是一个语音合成工具,可以快速创建语音解说视频。它可以将PowerPoint、GoogleSlides或Keynote文稿转换为视频,还可以将文字脚本转换为音频文件。Narakeet提供了多种语言和声音选择,可用于创建培训视频、市场营销视频或作为YouTube视频的旁白。体验地址:https://www.narakeet.com/站长网2023-08-29 11:43:190000阿布扎比大学研究揭示:AI可逼真模仿人的手写风格
划重点:-🧠阿布扎比大学研究人员成功开发技术,能仅凭几段文字模仿某人的手写。-⚙️使用变压器模型,一种专为学习顺序数据中的上下文和含义而设计的神经网络。-🤔虽然有助于伤者无需拿笔写字,但也带来了大规模伪造和滥用的风险。站长网2024-01-16 14:31:390000亚马逊加强监管Kindle出版商作品AI生成内容 必须披露AI生成部分
文章概要:1.亚马逊要求KindleDirectPublishing用户披露是否使用人工智能生成内容。2.更新指南要求披露AI生成的文本、图像和翻译。3.亚马逊采取行动,应对用户投诉,以减少AI生成内容的滥用。站长网2023-09-20 18:00:270000苹果研究团队揭示WRAP技术:用合成数据进行预训练大模型 成本低准确性高
**划重点:**1.🔄**预训练效率提升:**WRAP应用于嘈杂的C4数据集,预训练速度提高了近三倍,显著降低了LLM训练的高昂成本和时间投入。2.🚀**模型性能提升:**WRAP在相同计算预算下使模型性能更出色,通过使用Pile的不同子集,减少了超过10%的歧义,并在13种不同活动的零-shot问题回答准确性上提高了超过2%。站长网2024-02-05 10:42:350000