云知声推出山海大模型2.0版 参数规模达千亿
站长网2023-08-31 09:32:490阅
云知声宣布推出山海大模型2.0版,参数规模达到千亿,增加了更多的学科类的预训练语料,训练数据(Tokens)达到两万亿(2.0T)。实测性能在 C-Eval 全球大模型综合性评测中超过了 GPT-4,以70分的成绩进入前三甲。
据悉,这次升级使得山海大模型在多学科能力和医疗能力方面得到了提升,为实现 AGI 的进化打下了基础。模型团队利用了教材、文献和百科类语料来丰富模型的知识库,尤其在医疗领域方面取得了突破。
另外,模型的性能也得到了加速提升,通过使用 Neural Tangent Kernel (NTK) 的非线性差值方法,实现了大规模长度扩展,支持了32K 的窗口长度。为了提高解码效率,模型还采用了受限解码方法。
云知声山海大模型官网:shanhai.unisound.com
0000
评论列表
共(0)条相关推荐
Allen AI开源微调模型OLMo-7B-Instruct
AllenAI最近宣布开源了微调模型OLMo-7B-Instruct,这是一个真正意义上的开源项目。该模型是基于AI2的Dolma数据集构建的,该数据集包括了用于语言模型预训练的三万亿标记的开放语料库,还包括生成训练数据的代码。官网:https://allenai.org/olmo项目页:https://top.aibase.com/tool/olmo站长网2024-02-29 10:04:490000B站UP主用AI声音克隆原神各角色 视频播放超136万
最近,B站UP主“小虫哥_”发布了一部原神二创视频,其中各个角色模仿芙宁娜的台词和动作,但保留了原本的声线,给网友来了亿点点震撼。截至发稿日,该视频已经获得了超过136万的播放量。许多原神玩家被吸引的原因可能在于“陌生的熟悉感”,因为看到熟悉的角色模仿另一个角色的台词和动作,引得不少网友在评论区@同好直呼“不能只有我被创”。站长网2023-11-14 14:18:220001微信又改版了!增加5个新变化
微信又有新改版。近日,安卓微信发布了8.0.37内测版本。本次更新中,带来5个全新的功能变化。微信状态上线评论功能,评论内容仅好友双方可见。在微信里打开网页时,网页标题旁边新增了搜索入口。此前微信和QQ音乐梦幻联动,QQ音乐在微信里的播放页面做了全新改版,而且用户在微信里可以限时免费听QQ音乐的VIP歌曲。在本次8.0.37内测版中,微信再次对QQ音乐播放功能做了升级。站长网2023-05-23 11:17:000006贾跃亭打响上市资格保卫战 法拉第未来股价暴涨近370%
快科技5月15日消息,截止到5月14日美股收盘,法拉第未来(FF)股价暴涨367.54%,报收于0.285美元/股;盘中一度涨近490%,创下了FF自上市以来最高涨幅。FF方面表示,这标志着创始人贾跃亭正在进行的FF上市资格保卫战”已夺取开门红,特别是股价暴涨近370%的涨幅,给了资本市场以及公司内部巨大的信心。站长网2024-05-15 17:59:120000科技公司担忧,澳大利亚新标准或削弱AI保护在线安全能力
划重点:1.澳大利亚新发布的在线安全标准,被科技公司如微软、Meta等指责可能影响AI系统保护儿童安全和防范恐怖主义材料的效能。2.标准针对生成式人工智能(generativeAI)潜在的滥用潜力,但微软等公司表示其侦测有问题内容的能力可能受损。3.技术公司担心新标准可能使AI训练受限,降低其对儿童虐待和恐怖主义材料的精准侦测,强调AI在内容审查中的关键作用。站长网2024-02-29 16:18:420000