OpenAI推出“Meta-Prompting”,显著提升GPT-4等模型内容准确性
OpenAI、斯坦福大学的研究人员推出了一个创新大模型增强框架——Meta-ProMetating(简称“Meta”)。
Meta可增强GPT-4、PaLM和LLaMa等模型的性能,使生成的内容更加精准、安全可靠。
其技术原理也很简单明确,通过将模型复杂的任务或问题分解为更小、可管理的子任务,并将其分配给功能更强的专家模型来进行指导。
实验数据显示,Meta与GPT-4相结合后,在不同任务中的测试表现非常强悍,例如,在Game of24、 Checkmate-in-One和Sonnet Writing测试任务中,Meta的准确率明显优于其他几种主流辅助提示框架。特别是Meta与Python代码解释器相结合使用后,效果更佳。
论文地址:https://arxiv.org/abs/2401.12954

传统的模型提示指导方法是,需要为每个特定任务提供详细示例或具体的微调指导,这种模式非常费时、浪费AI算力。

而META采用了一种可以跨特定任务的通用高层次指导,打造了一个集中协调和多个专家模型于一体的创新框架,从而实现任务的分解和协同解决,主要由指挥模型、专家模型、沟通协调等模块组成。
指挥和专家模型
当大语言模型收到一个内容查询时,指挥模型负责生成一个消息历史,其中包含来自各种专家模型的回答。
指挥模型首先根据查询选择适当的专家模型,并为每个特定查询制定具体的指令。然后,将这些指令传递给相应的专家模型,并监督和协调它们之间的通信和合作。指挥模型还运用自身的批判性思维、推理和验证能力来完善和验证最终结果。

而每个专家模型都有丰富的任务实例,可根据指挥为每个特定查询选择的专业知识和信息生成更准确地输出。
专家模型通过接收来自指挥模型的指令,并根据这些指令执行特定的子任务。通过将复杂任务分解为较小、可管理的子任务,专家模型能够更好地处理并生成准确、一致的回答。
上下文选择
该模块负责为每个专家模型提供动态的上下文选择。在处理复杂文本任务时,不同的上下文会引入新的视角和信息,从而丰富模型的知识和理解。

上下文选择模块可根据指挥模型的指令和当前任务的要求,选择适当的上下文信息,并将其传递给相应的专家模型。这种动态的上下文选择使得专家模型能够更好地理解和解决复杂任务。
为了保证输出内容的准确性,META还内置了批判和验证模块,通过使用逻辑推理、常识知识和验证技术来评估和验证专家模型的指导输出内容。
评估模块会对每个专家模型生成的回答进行验证,并将验证结果反馈给指挥模型。指挥模型再根据这些反馈进行调整和修正并进行自适应学习,以生成更准确和可靠的最终答案。
来自伊拉克的美食博主,@老王在中国 如何让中国用户爱上?
“呀,哈比比,我是你们的好朋友老王~”,这是@老王在中国每期视频固定的开场白。老王是一位美食探店博主,他喜欢探索一些隐藏在小众城市中的美食店铺,会为了一个餐厅奔赴一座城市,寻找那些角落之中的美好。老王是一位在中国生活了近十年的伊拉克人,视频中的他说着略带口音却十分流利的中文,充满热情与每个路人打招呼。他永远穿着正装,无论去多么接地气的店铺,都保持得精精神神,对每个工作人员和美食充满敬畏。站长网2024-01-06 16:34:180001谷歌Gemini离谱翻车,马斯克被大黑特黑
事情是这样的。最近有很多网友陆陆续续发现啊,Gemini在文生图的时候,好像刻意在拒绝生成白人的形象。取而代之的,是强行把图中的人物变成黑人、女性,以及弱势群体。就拿马斯克本尊来说吧,一位网友让Gemini生成他的形象。然后……就有了上面这张照片。而且马斯克还不是个例,很多网友在尝试让Gemini文生图的时候都仿佛中了“黑色魔力圈”一样。站长网2024-02-25 14:55:160000剑桥初创公司在训练基于物理定律的 AI 模型
剑桥初创公司BeyondMath正在训练基于物理定律的AI模型。他们的目标是建立一个能够理解宇宙的AI,甚至能够提出继爱因斯坦相对论之后的统一理论。站长网2023-08-02 14:26:430001AIGC,游戏厂商的一束光,游戏业者的一道劫
AI是否会取代人工的争论已久。近日,雷亚游戏的一则辟谣公告,再次让这个话题掀起舆论热潮。5月27日,雷亚游戏在官方微博对近期网传的“公司在其美术作品中导入AI技术,并大量解雇美术人员”一事进行辟谣。在公告的后面部分,雷亚公司表示面对AIGC的冲击,公司也将会顺应主流市场应用AI辅助插画设计。站长网2023-06-03 19:04:250000加入 AI 功能的 Dynamics 成为微软增速最快的软件产品之一
站长之家(ChinaZ.com)8月4日消息:微软在2023财年的报告中未公布其云计算业务Azure的业务规模,但报告显示,微软的客户销售管理系统Dynamics成为增长速度最快的软件产品之一。站长网2023-08-04 15:02:510000