LLM Finetuning Hub开源:提升大型语言模型性能的实用平台
站长网2023-09-06 17:57:010阅
大语言模型微调中心(LLM Finetuning Hub)是一个开源项目,它包含了大规模语言模型(LLM)微调和部署的代码库以及相关研究成果。该项目由Georgian Partners旗下的Georgian IO团队开发,目的是帮助用户轻松地针对具体业务场景对各种LLM进行微调,并根据综合评估结果选择最适合的模型。

项目地址:https://github.com/georgian-io/LLM-Finetuning-Hub
该项目提供了针对多个流行LLM的微调脚本,如Flan-T5、Falcon、RedPajama等,使用户可以通过省时省力的方法,基于LORA和Prefix Tuning等模型微调技术,在自定义数据集上快速微调这些LLM。同时,该项目还提供了丰富的评估指标,允许用户从性能、训练时间、训练成本以及推理等多个维度对LLM进行全面评估,以确定最符合具体业务需求的LLM方案。所有脚本都经过详细注释,可以直接用于生产环境,大大降低了使用LLM的门槛。
该项目源代码托管在GitHub上,采用开源Apache2.0协议。用户可以轻松Fork项目、在本地修改并提交PR,参与到LLM微调相关研究的开源社区当中。该项目预计会持续迭代,支持越来越多前沿的LLM,并公开更多评估实验结果,以造福LLM领域的技术发展。
核心功能:
提供多种流行LLM的微调脚本
支持基于LORA、Prefix Tuning等方法进行模型微调
评估框架全面(性能、耗时、成本、推理)
脚本可直接用于生产环境
开源代码,社区维护
0000
评论列表
共(0)条相关推荐
红米Redmi Note 12R Pro 4月29日开售 搭载第一代骁龙4
Redmi红米今日宣布,Note12RPro5G手机将于4月29日10:00开卖。RedmiNote12RPro将搭载第一代骁龙4,支持双卡双5G;此外,该手机还配备三星OLED旗舰级直屏,可支持120Hz高刷新率,SGS低蓝光认证。此外,Note12RPro还提供12GB256GB大存储容量可供选择。站长网2023-04-27 11:00:330000腾讯云与高途教育合作 建设教育行业模型
11月22日,腾讯云与高途教育宣布达成战略合作。双方将基于腾讯云领先的AI技术和云产品能力,结合高途在教育行业丰富的深耕经验,于教育行业模型建设、教育生态建设等方面展开深度合作。双方致力于共同探索并落地AI大模型在教育领域的多维应用,旨在助力智慧教育创新发展。在教育行业模型建设上,围绕高途在模型训练方面的功能需求,腾讯云将提供云计算服务器、TI平台等产品服务,全面助力高途AI行业场景建设。站长网2023-11-23 08:28:190001Stability AI 音频负责人因不认同训练材料涉及版权问题辞职
划重点:-StabilityAI的音频负责人EdNewton-Rex因公司在训练生成式人工智能产品时使用版权材料的公开立场而宣布离职。-Newton-Rex的辞职引发了关于“公平使用”概念和AI模型在未经创作者许可下广泛使用内容的广泛讨论。-版权问题超出了StabilityAI,Newton-Rex表示,他反对整个采用相同方法的产业群体。站长网2023-11-23 09:51:340000红米迄今最完美作品!Redmi K70至尊版官宣本月发布:性能魔王
快科技7月10日消息,今天上午RedmiK70至尊版终于官宣,将于本月正式发布。官方号称该机是性能魔王,Redmi迄今最完美作品,游戏体验挑战三项第一:1.性能跑分第一2.同游戏帧率/能效第一3.原/铁自研超帧超分并发,时长第一据此前消息,该机首发华星新一代1.5K旗舰直屏,基于C8材料打造,拥有更长的像素寿命,可以做到行业最好的暗光护眼。站长网2024-07-11 08:54:220000