LLM Finetuning Hub开源:提升大型语言模型性能的实用平台
站长网2023-09-06 17:57:010阅
大语言模型微调中心(LLM Finetuning Hub)是一个开源项目,它包含了大规模语言模型(LLM)微调和部署的代码库以及相关研究成果。该项目由Georgian Partners旗下的Georgian IO团队开发,目的是帮助用户轻松地针对具体业务场景对各种LLM进行微调,并根据综合评估结果选择最适合的模型。

项目地址:https://github.com/georgian-io/LLM-Finetuning-Hub
该项目提供了针对多个流行LLM的微调脚本,如Flan-T5、Falcon、RedPajama等,使用户可以通过省时省力的方法,基于LORA和Prefix Tuning等模型微调技术,在自定义数据集上快速微调这些LLM。同时,该项目还提供了丰富的评估指标,允许用户从性能、训练时间、训练成本以及推理等多个维度对LLM进行全面评估,以确定最符合具体业务需求的LLM方案。所有脚本都经过详细注释,可以直接用于生产环境,大大降低了使用LLM的门槛。
该项目源代码托管在GitHub上,采用开源Apache2.0协议。用户可以轻松Fork项目、在本地修改并提交PR,参与到LLM微调相关研究的开源社区当中。该项目预计会持续迭代,支持越来越多前沿的LLM,并公开更多评估实验结果,以造福LLM领域的技术发展。
核心功能:
提供多种流行LLM的微调脚本
支持基于LORA、Prefix Tuning等方法进行模型微调
评估框架全面(性能、耗时、成本、推理)
脚本可直接用于生产环境
开源代码,社区维护
0000
评论列表
共(0)条相关推荐
人形机器人将进宝马工厂「实习」 之前它还只会冲咖啡
前段时间,名为“Figure01”的机器人因会冲咖啡而走红。这两天,它还找到了新工作,要去宝马的美国工厂“实习”,干得好的话,一两年后就能到流水线上参与“造车”了。站长网2024-01-23 09:34:540001IBM 首席执行官:暂停招聘可以被 AI 取代的数千个工作岗位
据彭博周一报道,IBM首席执行官ArvindKrishna在接受采访时表示将放缓或暂停招聘非面向客户的职位,例如人力资源,这些岗位未来几年可能会被AI取代。这些职位在IBM约有26000个。「其中30%的岗位很可能在五年内被AI和自动化取代,」他对彭博说。这相当于减少近8000个工作岗位。站长网2023-05-02 15:36:380000Palantir 受益于人工智能概念推动股价飙升 三个月里上涨 129%
站长之家(ChinaZ.com)8月8日消息:Palantir在周一收盘后公布财报,这将是该公司能否证明人工智能炒作的新的考验。站长网2023-08-08 20:09:540000巨头垂涎的鲜花电商,一路打到白菜价
承载着节日氛围、悦己功能的鲜花,正被打到白菜价。在直播间呐喊着“8.8元十只玫瑰包邮到家”“29.9元十只芍药、20只玫瑰”的主播在价格上越来越卷。线下售价并不便宜的鲜切花被搬到线上后,在品种更加丰富的同时,价格却越发亲民。站长网2023-07-05 09:17:290001苹果将第一代Apple Watch列为过时产品
苹果最近发布了一份内部备忘录,宣布第一代AppleWatch已被列入“过时产品”名单。从9月30日起,这款手表将不再享受苹果商店和授权服务提供商的维修或其他服务。站长网2023-10-04 09:02:380000