MiniMax 稀宇科技发布万亿 MoE 模型abab 6.5
站长网2024-04-18 17:11:350阅
MiniMax 在2024年4月17日推出了 abab6.5系列模型,这是一个万亿 MoE(Mixture of Experts)模型。在 MoE 还没有成为行业共识的情况下,MiniMax 投入了大量精力研究 MoE 技术,并在今年1月发布了国内首个基于 MoE 架构的 abab6模型。经过三个月的研发,他们推出了更强大的 abab6.5模型。
abab6.5系列包含两个模型:abab6.5和 abab6.5s。abab6.5拥有万亿参数,支持200k tokens 的上下文长度;而 abab6.5s 采用了相同的训练技术和数据,但更高效,支持200k tokens 的上下文长度,并且可以在1秒内处理近3万字的文本。
在各类核心能力测试中,abab6.5开始接近世界上最领先的大语言模型,如 GPT-4、Claude-3、Gemini-1.5等。
abab6.5和 abab6.5s 将会陆续更新到 MiniMax 旗下的产品中,包括生产力产品海螺 AI 和 MiniMax 开放平台。用户可以通过这些产品来体验这些先进的语言模型。
0000
评论列表
共(0)条相关推荐
鸿蒙系统再次突破,份额提升至8%,这才是华为回归的关键
鸿蒙系统一直都是谈论话题最高的热度之一,现在的华为手机最大的优势是鸿蒙,好多朋友选择华为也是因为鸿蒙,鸿蒙也是华为区别于国产手机的最大亮点。同时鸿蒙系统也被很多人认为是国产手机的崛起点之一,是华为最大的自研技术优势所在。一直以来在手机市场,除了安卓系统之外就是苹果的iOS,这也是苹果能够一直站在最高点的原因,所以鸿蒙到到来让更多人看到了国产手机的未来。站长网2023-05-25 06:18:490000腾讯QQWindows 9.90体验版上线 采用全新登录以及交互界面
昨日,腾讯QQWindows9.90体验版上线,适用于Windows7SP1及以上版本,全新体验版的WindowsQQ新增了对64位系统的支持,基于NT架构,正式实现了macOS、Linux和Windows三个平台的统一。新版QQ采用了全新登录界面以及交互界面,支持表情分类和黄脸超级表情,还具备夜间模式一键开启等功能。站长网2023-07-04 15:58:100000曹书乐:尝试理解青少年的短视频使用动机,呼吁多元主体共治
中国青年网北京5月22日电(记者牟昊琨实习记者任馨蕾)近年来,在抖音等平台刷短视频已经成了大家茶余饭后常做的事,而短视频的内容五花八门。5月18日,在由中国社会科学院新闻与传播研究所主办的“短视频与青少年发展”研讨会上,清华大学新闻与传播学院副教授曹书乐表示,“媒介无处不在,我们应跨越媒介恐慌的视角,正视媒介对个体和社会的各方面影响”。0001创历史新高!10月中国占世界新能源车份额67%
快科技12月2日消息,乘联会秘书长崔东树撰文称,2023年10月中国占世界新能源车份额67%。具体数据方面,今年1-10月新能源乘用车销量达到1120万台,同比增长41%;10月达到134万台,同比增长33%。2023年1-10月中国新能源乘用车占比世界新能源62%,其中10月中国占比份额67.5%的表现较强。站长网2023-12-03 10:09:580000Gemini上线首日:用户褒贬不一,演示被质疑「造假」,谷歌承认了
又不求融资,怎么也给demo加美颜?「谷歌,这就有点尴尬了。」没有想到,Gemini上线头一天,热门评论会是这个样子。本周三,谷歌的Gemini让生成式AI进入了原生多模态时代。人们第一时间涌入新模型加持的Bard想要试试AI的能力,结果给出的评价褒贬不一。其中最值得注意的是有人指出,Gemini在发布时,谷歌给出的一系列Demo中最令人眼花缭乱的部分是伪造的。站长网2023-12-08 18:51:340001