OpenAI新模型用的嵌入技术被网友扒出来了
前几天,OpenAI 来了一波重磅更新,一口气宣布了5个新模型,其中就包括两个新的文本嵌入模型。
我们知道,嵌入是表示自然语言或代码等内容中概念的数字序列。嵌入使得机器学习模型和其他算法更容易理解内容之间的关联,也更容易执行聚类或检索等任务。
使用更大的嵌入(比如将它们存储在向量存储器中以供检索)通常要比更小的嵌入消耗更高的成本、以及更多的算力、内存和存储。而 OpenAI 此次推出的两个文本嵌入模型分别是更小且高效的 text-embedding-3-small 模型和更大且更强大的 text-embedding-3-large 模型。
这两个新嵌入模型都使用一种技术进行训练,允许开发人员权衡使用嵌入的性能和成本。具体来说,开发者通过在 dimensions API 参数中传递嵌入而不丢失其概念表征属性,从而缩短嵌入(即从序列末尾删除一些数字)。例如在 MTEB 基准上,text-embedding-3-large 可以缩短为256的大小, 同时性能仍然优于未缩短的 text-embedding-ada-002嵌入(大小为1536)。
这一技术应用非常灵活:比如当使用仅支持最高1024维嵌入的向量数据存储时,开发者现在仍然可以使用最好的嵌入模型 text-embedding-3-large 并指定 dimensions API 参数的值为1024,使得嵌入维数从3072开始缩短,牺牲一些准确度以换取更小的向量大小。
OpenAI 所使用的「缩短嵌入」方法,随后引起了研究者们的广泛注意。
人们发现,这种方法和2022年5月的一篇论文所提出的「Matryoshka Representation Learning」方法是相同的。
OpenAI 的新嵌入模型更新背后隐藏的是 @adityakusupati 等人提出的一种很酷的嵌入表征技术。
而 MRL 的一作 Aditya Kusupati 也现身说法:「OpenAI 在 v3嵌入 API 中默认使用 MRL 用于检索和 RAG!其他模型和服务应该很快就会迎头赶上。」
那么 MRL 到底是什么?效果如何?都在下面这篇2022年的论文里。
MRL 论文介绍
论文标题:Matryoshka Representation Learning
论文链接:https://arxiv.org/pdf/2205.13147.pdf
研究者提出的问题是:能否设计一种灵活的表征方法,以适应计算资源不同的多个下游任务?
MRL 通过以嵌套方式对 O (log (d)) 低维向量进行显式优化在同一个高维向量中学习不同容量的表征,因此被称为 Matryoshka「俄罗斯套娃」。MRL 可适用于任何现有的表征 pipeline,并可轻松扩展到计算机视觉和自然语言处理中的许多标准任务。
图1展示了 MRL 的核心理念以及所学习 Matryoshka 表征的自适应部署设置:
Matryoshka 表征的第一个 m-dimensions(m∈[d])是一个信息丰富的低维向量,不需要额外的训练成本,其精确度不亚于独立训练的 m 维表征法。Matryoshka 表征的信息量随着维度的增加而增加,形成了一种从粗到细的表征法,而且无需大量的训练或额外的部署开销。MRL 为表征向量提供了所需的灵活性和多保真度,可确保在准确性与计算量之间实现近乎最佳的权衡。凭借这些优势,MRL 可根据精度和计算约束条件进行自适应部署。
在这项工作中,研究者将重点放在了现实世界 ML 系统的两个关键构件上:大规模分类和检索。
在分类方面,研究者使用了自适应级联,并使用由 MRL 训练的模型产生的可变大小表征,从而大大降低了达到特定准确率所需的嵌入式平均维数。例如,在 ImageNet-1K 上,MRL 自适应分类的结果是,在精度与基线相同的情况下,表征大小最多可缩小14倍。
同样地,研究者在自适应检索系统中也使用了 MRL。在给定一个查询的情况下,使用查询嵌入的前几个 dimensions 来筛选检索候选对象,然后连续使用更多的 dimensions 对检索集进行重新排序。与使用标准嵌入向量的单次检索系统相比,这种方法的简单实现可实现128倍的理论速度(以 FLOPS 计)和14倍的墙上时钟时间速度;需要注意的是,MRL 的检索精度与单次检索的精度相当(第4.3.1节)。
最后,由于 MRL 明确地学习了从粗到细的表征向量,因此直观地说,它应该在不同 dimensions 之间共享更多的语义信息(图5)。这反映在长尾持续学习设置中,准确率最多可提高2%,同时与原始嵌入一样稳健。此外,由于 MRL 具有粗粒度到细粒度的特性,它还可以用作分析实例分类难易程度和信息瓶颈的方法。
更多研究细节,可参考论文原文。
英特尔与埃森哲合作推出 34 个开源 AI 参考套件:更快、更低成本训练人工智能模型
站长之家(ChinaZ.com)7月25日消息:英特尔寻求通过一套扩展的开源参考套件来吸引更多开发人员和数据科学家构建人工智能应用程序,这些套件利用了芯片制造商不断增长的软件堆栈。这家总部位于加利福尼亚州圣克拉拉的公司周一宣布,已发布34个开源AI参考套件,旨在帮助多个行业的组织「通过克服专有环境的限制,更快、以更低的成本」训练AI模型。站长网2023-07-25 16:18:410000谷歌要将AI引入广告业务,未来广告能由AI来制作
在2023年的这场“百模大战”中,谷歌十分罕见的并未处于第一梯队,他们历经波折推出的AI聊天机器人Bard,更是曾被员工评价为“不仅无用,而且糟糕,不应被发布”。但即便如此,谷歌也没有放弃在AI领域的进一步探索。日前来自《金融时报》的相关报道显示,谷歌在人工智能浪潮中的下一个目标是其广告业务,并希望在尽可能多的业务中施加生成式AI的“魔法”。站长网2023-05-12 20:38:170000微软上线Java 版Semantic Kernel 为Java应用程序提供AI功能集成
SemanticKernel是一个轻量级的SDK,它将大型语言模型(LLM)与现有的编程语言(如C#、Python和Java)集成在一起。可以减少自然语言语义和内存管理等复杂任务。站长网2023-07-21 17:06:360000世界上最古老的报纸之一如何利用人工智能重塑新闻报道
作为世界上最古老的报纸之一,Berrow'sWorcesterJournal自1690年首次出版以来,始终在新闻行业中引领潮流。现在,该报纸宣布了一项创新举措:引入人工智能(AI)技术,以帮助记者进行事实核查并提升报道质量。0000微软:Bing Chat 性能优于原始 GPT-4 但价格昂贵
站长之家(ChinaZ.com)8月15日消息:微软必应首席执行官MikhailParakhin在Twitter上表示,必应聊天功能优于原始的GPT-4,但这是有代价的。当有人说他们认为BingChat击败了OpenAI的GPT-4时,Parakhin表示,「根据我们的测量,它的表现确实更好」。站长网2023-08-15 16:47:020000