vivo开源蓝心大模型BlueLM-7B系列 后续还将开源13B以及多模态7B-vl模型
站长网2023-11-09 14:11:272阅
近日,vivo AI正式开源了BlueLM-7B 基础 (base) 模型和7B 对话 (chat) 模型,同时开源了支持32K 的长文本基础 (base) 模型和对话 (chat) 模型。
具体特性如下:
更大量的优质数据:高质量语料库进行训练,规模达到了2.6万亿 的 token 数,该语料库包含中文、英文以及少量日韩数据;
更优的效果:其中 BlueLM-7B-Chat 在 C-Eval 和 CMMLU 上均取得领先结果,对比同尺寸开源模型中具有较强的竞争力;
长文本支持:BlueLM-7B-Base-32K 和 BlueLM-7B-Chat-32K 均支持32K 长文本,在保持基础能力相当情况下,能够支持更长上下文理解;
协议说明:BlueLM 系列欢迎开发者进行学术研究和商业应用;
vivo表示,后续还将开源13B 模型和支持多模态的7B-vl 模型。
2023年11月1日,vivo开发者大会上,vivo正式发布vivo自研大模型矩阵“蓝心大模型”。蓝心大模型包含十亿、百亿、千亿等不同参数规模五款大模型,vivo自研操作系统OriginOS4将首发搭载,vivo称其大模型矩阵将全面开源。
开源地址:https://github.com/vivo-ai-lab/BlueLM
BlueLM蓝心大模型官网导航:https://top.aibase.com/tool/bluelmlanxindamoxing
0002
评论列表
共(0)条相关推荐
Karpathy新教程爆火,网友抢着送他H100:从头复现GPT-2训练
大神Karpathy已经不满足于用C语言造Llama了!他给自己的最新挑战:复现OpenAI经典成果,从基础版GPT-2开始。挑战成功本身并不意外,但是只花费20美元、90分钟完成训练,Loss和评测还超越原版,就!有!点!过!分!了!。不仅如此,他把复现过程写成了完整教程,果不其然再次火爆。由于Karpathy自己租用的是A100云服务,训练124M版本花费20了美元。站长网2024-05-29 18:35:410000腾讯否认微信将推出公务员专供版:这玩笑开大了
最近有传言称,微信将推出“公务员专供版”,撤回时间将由原本的两分钟延长至两小时,部分领导的撤回时间甚至可延长至两天。7月18日,腾讯公关总监张军在朋友圈明确否认了这一传闻的真实性,并表示这只是一个玩笑。他调侃说:“还真有人信。”站长网2023-07-19 11:02:450000首发新版麒麟9000S!华为nova 12系列售价曝光:3299元起步
快科技12月24日消息,华为官方已经确认,nova12系列将于12月26日的新品发布会与大家见面。新机采用了全新的潮流外观ID设计,由易烊千玺代言。最新爆料显示,华为nova12标准版售价3299元,Pro、Ultra版本分别为4499元、5499元。目前该售价信息尚未得到确认。站长网2023-12-24 09:36:240000伯克希尔·哈撒韦再度抛售比亚迪股份 持股比例从9.21%降至8.98%
6月27日消息,据外媒报道,“股神”沃伦·巴菲特旗下的投资公司伯克希尔·哈撒韦再度抛售了比亚迪股份,持股比例从9.21%降至8.98%。周一提交给香港证券交易所的文件显示,伯克希尔·哈撒韦出售了253万股比亚迪H股,这些股票价值6.758亿港元(8630万美元)。站长网2023-06-28 09:26:430004美团在成都成立新公司,经营范围含智能机器人研发和AI软件开发
据天眼查显示,美团最近在成都成立了一家名为成都海骑科技有限公司的新公司。该公司的经营范围包括智能机器人的研发、物联网技术研发、人工智能基础软件开发、网络与信息安全软件开发、信息技术咨询服务和互联网数据服务等。据股权信息显示,该公司由美团旗下SolidBitHongKongLimited间接全资持股。0000