LLM Finetuning Hub开源:提升大型语言模型性能的实用平台
站长网2023-09-06 17:57:010阅
大语言模型微调中心(LLM Finetuning Hub)是一个开源项目,它包含了大规模语言模型(LLM)微调和部署的代码库以及相关研究成果。该项目由Georgian Partners旗下的Georgian IO团队开发,目的是帮助用户轻松地针对具体业务场景对各种LLM进行微调,并根据综合评估结果选择最适合的模型。
项目地址:https://github.com/georgian-io/LLM-Finetuning-Hub
该项目提供了针对多个流行LLM的微调脚本,如Flan-T5、Falcon、RedPajama等,使用户可以通过省时省力的方法,基于LORA和Prefix Tuning等模型微调技术,在自定义数据集上快速微调这些LLM。同时,该项目还提供了丰富的评估指标,允许用户从性能、训练时间、训练成本以及推理等多个维度对LLM进行全面评估,以确定最符合具体业务需求的LLM方案。所有脚本都经过详细注释,可以直接用于生产环境,大大降低了使用LLM的门槛。
该项目源代码托管在GitHub上,采用开源Apache2.0协议。用户可以轻松Fork项目、在本地修改并提交PR,参与到LLM微调相关研究的开源社区当中。该项目预计会持续迭代,支持越来越多前沿的LLM,并公开更多评估实验结果,以造福LLM领域的技术发展。
核心功能:
提供多种流行LLM的微调脚本
支持基于LORA、Prefix Tuning等方法进行模型微调
评估框架全面(性能、耗时、成本、推理)
脚本可直接用于生产环境
开源代码,社区维护
0000
评论列表
共(0)条相关推荐
纽约市公立学校取消 ChatGPT 禁令:为新世界做好探索使用 AI 的准备
ChatGPT被允许在纽约市公立学校中使用。纽约市教育局将取消对ChatGPT聊天机器人的禁令,该机器人在学生中非常流行,但有些人担心会激发更多作弊行为。站长网2023-05-19 11:02:590000安卓卖了个寂寞!苹果赚钱能力太强:拿走全球智能手机85%利润
快科技8月10日消息,CounterpointResearch最新研报数据显示,2023年Q2苹果公司智能手机营收和营业利润创季度记录。数据显示,2023年第二季度,全球智能手机营收年同比下降8%,环比下降15%,远低于900亿美元。同期,全球智能手机营业利润降至130亿美元以下,年同比下降3%,环比下降27%。站长网2023-08-10 20:37:150000腾讯视频发布5月大剧片单:《庆余年2》本月播出
快科技5月2日消息,日前,腾讯视频发布5月大剧片单,《庆余年》第二季定档5月。张若昀曾透露第二季将在5月中旬播出,具体开播时间预计即将公布。目前,《庆余年》第二季在腾讯视频站内预约人数已破1300万。该剧由腾讯视频、阅文影视、新丽电视出品,孙忠怀、侯晓楠、曹华益担任出品人,改编自猫腻首发于阅文集团旗下起点中文网的同名小说。0000瑞幸回应喝茅台联名咖啡能否开车:驾驶人员不建议饮用
今日,贵州茅台与瑞幸咖啡联合推出的联名咖啡“酱香拿铁”正式上市开卖。这款咖啡使用了53度贵州茅台酒,酒精度低于0.5%,并配备了白酒风味厚奶,零售价为38元/杯,使用优惠券后预计19元/杯。据瑞幸官方小程序客服回应,这款咖啡的酒精含量低于0.5度,但未成年人、孕妇、驾驶人员、酒精过敏者不建议饮用。站长网2023-09-04 10:39:300000亚马逊确认今年不会举办 re:MARS 机器人和人工智能大会
亚马逊公司确认,今年不计划举办涉及机器人和太空等尖端技术的re:MARS会议,而是将这些主题纳入其现有的AWS云服务的活动安排中。站长网2023-06-20 16:17:490000