魔搭社区上线Mistral AI 首个开源 MoE 模型 Mixtral8x7B
站长网2023-12-14 09:42:420阅
Mistral AI 近日发布了首个开源 MoE 模型 Mixtral8x7B,并宣布在魔搭社区上线。
Mixtral-8x7B 是一款混合专家模型(Mixtrue of Experts),由8个拥有70亿参数的专家网络组成,在能力上,Mixtral-8x7B 支持32k token 上下文长度,支持英语、法语、意大利语、德语和西班牙语,拥有优秀的代码生成能力,可微调为指令跟随模型。
该模型在 MT-Bench 评测上达到了8.3分,与 GPT3.5相当。

Mixtral-8x7B-v0.1模型:
https://www.modelscope.cn/models/AI-ModelScope/Mixtral-8x7B-v0.1/summary
Mixtral-8x7B-Instruct-v0.1模型:
https://www.modelscope.cn/models/AI-ModelScope/Mixtral-8x7B-Instruct-v0.1/summary
Mistral-7B-Instruct-v0.2新模型:
https://www.modelscope.cn/models/AI-ModelScope/Mistral-7B-Instruct-v0.2/summary
0000
评论列表
共(0)条相关推荐
AI潮起,巨人网络仍等“第二春”
眼下,AI大放异彩。互联网有名有姓的企业纷纷拥抱AI,生怕成为大潮之下的牺牲品,游戏行业也不例外,“游戏AI”的故事讲得风生水起。这其中,巨人网络表现得尤为活跃。其创始人史玉柱前不久表示:“未来游戏行业出路在哪?我们内部研究下来,同时也是我们团队现在在筹备的,第一个就是‘游戏AI’。”站长网2023-06-05 21:29:310000音乐领域的ControlNet来了!Music ControlNet可精确控制音乐中的时间变化
MusicControlNet是一款基于扩散(diffusion)技术的音乐生成模型,旨在为文本到音乐生成模型提供多个准确的、时变的音乐控制。虽然现代文本到音乐生成模型已经能够以广泛的风格生成高质量音乐,但文本控制主要适用于操纵全局的音乐属性,如流派、情绪和速度,对于精确控制音乐中时间变化的属性,比如节奏中的拍子位置或音乐动态的变化,则表现不佳。站长网2023-11-21 10:12:140002AI视野:Mistral AI发布87GB开源MoE模型;Soul上线自研大模型SoulX;百家号打击AI违规内容;Yi-34B最新成绩超越多个主流大模型
🤖📈💻💡大模型动态MistralAI发布87GB开源MoE模型MistralAI以87GB种子形式开源了近似于GPT-4的8x7BMoE模型,架构相似但规模更小,引发开发者关注和在线体验。【AiBase提要】🔍MistralAI以磁力链接方式开源了8x7BMoE模型,规模接近GPT-4,参数配置相对较小。站长网2023-12-11 15:41:310000ChatGPT新功能曝光!OpenAI首届开发者大会抢先看
OpenAI将于太平洋时间11月6日早上10点举办首届全球开发者大会(大约北京时间11月7日凌晨2点),与来自世界各地的开发者、企业、技术合作伙伴,分享OpenAI最新产品和技术趋势。由于OpenAI的金字招牌太响,已经有不少人迫不及待地曝光其开发者大会内容,包括最新产品、模型、技术规划等。「AIGC开放社区」根据网上流出的内容为大家整理了一下,更多内容还请期待OpenAI开发者大会上的官宣。站长网2023-11-06 09:34:210000美版权局再次拒绝为AI生成的作品提供版权保护
**划重点:**1.📝美国版权局第三次拒绝注册由生成人工智能创作部分的艺术品,认为其缺乏需要主张版权保护的“人类创作者属性”。2.🎨艺术品涉及由AnkitSahni创作的二维艺术品“SURYAST”,通过将自己创作的原始照片输入AI绘画工具,并以梵高的《星夜》作为“风格”输入,生成新作品。0000