ChatGPT模型大更新!全新大、小文本嵌入模型,API价格大降价!
1月26日凌晨,OpenAI在官网对ChatGPT模型进行了大更新,发布了两款全新大、小文本嵌入模型,全新的GPT-4Turbo模型(修复懒惰行为),免费的审核模型,并对新的GPT-3.5Turbo模型API进行了大幅度降价。
OpenAI还将推出全新的API秘钥和可视化管理方法,帮助开发人员更简单、直观地观察API使用情况,并对API密钥设置更详细的使用权限。
值得一提的是,全新的嵌入模型可以为ChatGPT 、Assistants API中的知识检索以及很多检索增强生成式开发工具提供技术支持。
全新文本嵌入模型
「AIGC开放社区」先简单介绍一下嵌入模型:嵌入是一串数字,代表了自然语言或代码等内容中的概念。嵌入也使得机器学习模型和其他算法更容易理解内容之间的关系,并执行分类、内容检索、搜索、推荐等任务。
同时嵌入是GPT系列模型的核心组成部分,用于将输入的文本(单词或字符)转换为数值向量,例如,词嵌入、位置嵌入、上下文嵌入,这些向量能够表示输入数据的丰富信息,提供更深层次的语义理解。
本次OpenAI发布了小文本嵌入模型text-embedding-3-small和大文本嵌入模型text-embedding-3-large,主要特色性能如下。
1)性能更强:根据OpenAI公布的性能测试,小文本嵌入模型的多语言检索(MIRACL)常用基准的平均得分从31.4% 增加至44.0%;英语任务(MTEB)常用基准的平均得分从61.0% 增加到62.3%。
大文本嵌入模型在MIRACL上,平均得分从31.4% 增加至54.9%,而在 MTEB 上,平均得分从61.0% 提高到64.6%,整体性能比小文本更强悍。
2)支持缩短嵌入节省成本:与较小的嵌入式相比,开发者在使用较大的嵌入式(例如,将其存储在向量存储区以进行检索)通常会花费更多的成本,消耗更多的AI算力、内存和存储空间。
为了帮助开发者节省成本,OpenAI允许开发人员通过传递维度API参数,来缩短嵌入模型(从序列末尾删除一些数字),而不会使嵌入模型失去其表示特性。
例如,在MTEB基准上,大文本嵌入模型可以缩短到256大小,但性能依然优于大小为1536的未缩短的小文本嵌入模型。
3)API价格:虽然全新的嵌入文本模型性能非常强,但OpenAI对API的价格进行了大降价,小文本嵌入模型的API价格与之前模型相比降了5倍,每1000tokens价格为0.00002美元。大文本嵌入模型是,每每1000tokens价格为0.00013美元。
全新GPT-4Turbo 预览模型
自 OpenAI发布GPT-4Turbo模型以来,超过70%的GPT-4API客户已转换为GPT-4Turbo。这是因为GPT-4Turbo可以提供更大的上下文以及性能。
现在,OpenAI发布了全新的GPT-4Turbo预览模型——gpt-4-0125-preview。
与之前相比,该模型能更好地完成代码生成等任务,同时修复了用户非常关注的懒惰行为,还修复了影响非英语 UTF-8生成的错误问题。
对于那些希望自动升级到最新GPT-4Turbo 预览版模型的开发者,将始终指向OpenAI最新的 GPT-4Turbo 预览版。
免费审核模型
为了帮助开发者降低ChatGPT的非法内容输出,提升安全性,OpenAI提供了免费的审核模型API。
此外,OpenAI还将发布一款迄今为止最强大的审核模型text-moderation-007,进一步提升模型的安全性。
API价格大降价
下周,OpenAI将推出GPT-3.5Turbo系列的全新模型——gpt-3.5-turbo-0125,同时对API价格大降价。
新模型的输入价格大降50%,每1000tokens价格为0.0005美元;输出价格降低25%,每1000tokens价格为0.0015美元。
同时该模型进行各种功能改进,包括,提高响应所要求格式的准确性,以及修复导致非英语语言函数调用出现文本编码错误的问题。
全新可视化API管理方法
为了帮助开发人员更高效地管理API,OpenAI提供了两种全新管理方法。
1)开发人员现在可以从API密钥页面,为API密钥分配详细权限。例如,可以为密钥分配只读访问权限以支持内部跟踪仪表板,或限制为只能访问某些特定端点。
2)在开启跟踪功能后,使用详情、导出功能现在可以显示API密钥级别的指标。因此,开发者只需为每个功能、团队、产品或项目设置单独的 API 密钥,就能轻松查看每个功能、团队、产品或项目级别的详细使用情况。
在未来几个月内,OpenAI将进一步提升开发人员对API的使用、观察和控制能力,这对于大型企业来说非常重要。
本文素材来源OpenAI官网,如有侵权请联系删除
乐视官宣春节提前2天放假:共10天!
快科技1月2日消息,乐视官方今天发布公告称,2024年春节假期除国家规定休假8天外,公司统一安排休2天法定年假。具体放假时间为:2024年2月8日至2024年2月17日,共计10天。乐视还表示,为保证员工2024年仍有充足的假期,法定年假5天的员工,公司补发2天年假;法定年假10天的员工,公司补发1天年假。同时,乐视官方也回顾了一下2023年的发展历程:站长网2024-01-02 21:53:420000OpenAI 发布新的 API 更新:成本显著降低、新的函数调用功能以及 GPT-3.5-turbo-16k 上下文版本
OpenAI在周二宣布了其大型语言模型API(包括GPT-4和gpt-3.5-turbo)的一次重大升级,其中包括新的函数调用功能、显著的成本降低以及gpt-3.5-turbo模型的16,000tokencontextwindow(下文窗口)选项。站长网2023-06-15 03:53:100002微软承认 Bing Chat 全面开放后需要添加更多的 GPU 以加快必应聊天的响应时间
微软现在允许任何人无需加入等待列表即可使用其BingChat聊天机器人。当然,这意味着很多人现在都在首次尝试使用该服务。然而,一些BingChat用户现在表示,聊天机器人的响应速度正在变慢。微软的广告和网络服务主管MikhailParakhin在Twitter上回应道,「使用量正在增长,我们的GPU增加速度跟不上。」站长网2023-05-09 11:03:090000独立开发变现周刊:一个 AI 个人穿搭App年收入300万美元
目录1、PDFGuruAnki:一款开源以PDF为中心的办公学习工具箱2、Langflow:一个开源构建多代理和RAG应用程序的可视化框架3、【粉丝自荐】Color4Bg:一款酷炫的背景图生成工具4、如何通过Telegram频道实现每月收入5千美金5、AI个人穿搭工具年收入300万美元1、PDFGuruAnki:一款开源以PDF为中心的办公学习工具箱站长网2024-07-19 12:37:380000俞敏洪道歉后 董宇辉发声抗拒卖货:称非常反感被叫网红
站长之家(ChinaZ.com)6月11日消息:6月11日,东方甄选股价下跌一度超过10%,最终收跌9.01%,报13.94港元。近期,东方甄选的高管董宇辉在一档户外电台节目中表达了对直播带货的复杂情感。他坦言自己非常抗拒卖东西,并且至今仍未完全享受这份工作。董宇辉表示,这种态度可能源于他过去的职业性格和当前工作之间的冲突。尽管他认可直播带货的社会意义,但个人情感上并未感到喜悦。站长网2024-06-12 08:39:450000