开源小型语言模型MobiLlama 手机可运行训练
站长网2024-02-28 11:09:042阅
MobiLlama是一个开源的小型语言模型,专门针对移动设备运行训练的LLM,拥有5亿个参数。该模型的设计旨在满足资源设定计算的需求,同时注重在提高性能的同时降低资源消耗。
项目地址:https://top.aibase.com/tool/mobillama
MobiLlama是从一个更大的模型出发设计的,通过提出的训练设计的参数共享机制来降低预配置和部署的成本。这项工作的目标不仅是填补小型开源语言模型的空白,还要确保全面透明。这包括提供完整的训练数据流程、训练代码、模型权限重以及超过300个检查点。
想要体验MobiLlama,用户可以按照操作系统的指示下载预处理的Amber数据,并从源码安装。对于训练和微调,建议用户通过源码安装,以利用MobiLlama在20个A10080GB GPU节点上的性能。
这个0.5B大小的开源模型为移动设备提供了一个精确且完全透明的选择。如果用户需要一个小型语言模型来运行在资源中受在有限的环境中,MobiLlama 可能是一个非常有用的选择。
0002
评论列表
共(0)条相关推荐
AI视野:Civitai上线模型训练功能;文心大模型用户规模达4500万;OpenAI开发高准确度AI检测工具;富士康与英伟达宣布合作建设“AI工厂”
🤖📈💻💡大模型动态文心大模型用户规模达4500万在昨天的百度世界2023大会上,文心大模型4.0正式发布,开启邀请测试。据官方介绍,文心大模型4.0在9月已开始小流量上线,过去一个多月效果又提升了近30%。【AiBase提要】1.文心大模型4.0在9月已开始小流量上线。2.文心大模型4.0在百度世界2023大会上正式发布。站长网2023-10-18 23:53:140001Flyme AI大模型加持!魅族Flyme 10.5引入全新智能助手Aicy
魅族宣布,Flyme10.5将引入全新的智能助手Aicy,通过FlymeAI大模型的加持,Aicy能够发挥出强大的能力。首先,Aicy能够作为即问即答的百科全书,回答包括自然科学、生活知识、健康常识、情感问答等各类问题。其次,Aicy还能帮助用户撰写各种文本,包括微博动态、感谢信、年会发言稿等。站长网2023-11-30 15:40:470000从餐巾纸的故事说起,聊聊张朝阳当物理网红这两年
网红似乎更多和草根挂钩,很少有大佬喜欢这个词。不过,张朝阳并不排斥网红的称呼。他一直都有着鲜明的个人特色,这几年更是屡屡破圈,身份标签还多了个“物理网红”。前几天在乌镇世界互联网大会期间,张朝阳说网红这个词特别好,网红是时代的产物。而且,张朝阳直播了好几年,很多事情都是自己亲手做的。站长网2023-11-23 12:14:110000月入1万,就超过了全国95%的人。
各位村民好,我是村长许多赚不到钱的人,都犯了一个通病。那就是看不上小钱,整天都想着月入3万、5万甚至10万。看着别人做淘客一个月几十万,别人做直播带货一个月几百万,总之就是羡慕别人,自己迟迟不做行动。01小钱看不上一提到某个项目赚钱,大家看到的都是别人赚钱的结果,而忽略了别人赚钱的过程。以为别人从一开始,就是一个月赚几万以上的。0000一体压铸真香!特斯拉或大幅降低Model 2生产成本:15万拿下
快科技9月15日消息,在尝到了一体式压铸降低成本的甜头之后,特斯拉对这种技术欲罢不能。据海外媒体报道,在ModelY的一体压铸工艺大获成功后,特斯拉会将该技术改进后应用到Model2身上,以更好地降低新车的生产成本,据称,其正在寻找更大压力的冲压机,生产ModelY的机器可输出6000至9000吨的压力,而特斯拉希望新机器能输出16000吨的压力。站长网2023-09-15 16:06:350000