中科大联合封神榜团队发布中文医疗领域大模型ChiMed-GPT
站长网2023-11-20 16:46:150阅
中科大和 IDEA 研究院封神榜团队合作开发了一款名为 ChiMed-GPT 的中文医疗领域大语言模型（LLM）。该模型基于封神榜团队的 Ziya2-13B 模型构建，拥有130亿个参数，并通过全方位的预训练、监督微调和人类反馈强化学习来满足医疗文本处理的需求。
ChiMed-GPT 的训练过程包括三个阶段:预训练、监督式微调和人类反馈强化学习。在预训练阶段，模型使用了2.14亿字的医学百科文档和教科书文章进行继续训练，以扩展医疗领域的知识。在监督式微调阶段，模型利用问答和医患对话数据来提升在真实医疗环境中理解人类指令的能力。在人类反馈强化学习阶段，模型使用拒绝采样技术进行训练，通过奖励模型训练和拒绝采样微调来进一步提高模型性能。
在医疗信息抽取、问答和对话生成等任务上，ChiMed-GPT 的性能优于其他同规模的开源模型，并且在多个指标上超越了 GPT-3.5。在医疗信息抽取任务中，ChiMed-GPT 的性能优于通用和医学领域的开源模型。在问答任务和对话生成任务中，ChiMed-GPT 在多个评估指标上表现出色，展示了其在实际应用中的广泛适用性。
据悉，ChiMed-GPT 的研发对于提升医疗智能的重要性具有重要意义。该模型不仅能够有效处理医疗文本数据，还能生成适合回答患者咨询的内容。
Github:
https://github.com/synlp/ChiMed-GPT
HuggingFace:
https://huggingface.co/SYNLP/ChiMed-GPT-1.0
0000
评论列表
共(0)条相关推荐
“仅退款”争议背后：沉默的消费者消失在舆论场
中国电商消费者真的被过度保护了吗?随着“仅退款”政策成为国内电商平台的一种标配，越来越多负面的声音开始出现。“仅退款”会让中国商家完蛋;“仅退款”会让电商平台死于薅羊毛;“仅退款”是平台偏袒消费者，是对消费者的过度保护。然而，有两个问题始终让我心存疑虑。中国电商的消费者，真的被平台偏心偏袒，以至于被过度保护了吗?绝大多数沉默的电商消费者，在面对商家和平台时，真的已经是更强势的那一方了吗?站长网2024-08-02 17:56:290000电商平台在短剧里捞金
猫狗拼加入短剧赛道今年狗血上头、节奏快、爽点多的短剧备受大众欢迎。1天2000万，8天破1亿的吸金速度更是迅速带动资本涌入。横店变“竖店”，就连香港知名导演王晶也开始涉足短剧。互联网行业出现又一流量新风口，这也恰好为正在建设内容化的货架电商平台提供了契机。短剧开始正在成为货架电商平台新宠。淘宝、拼多多、京东等平台都开始出现短剧的身影。0000谷歌暂停AI图像生成功能：承认存在技术缺陷
谷歌周五承认，其人工智能工具Gemini在生成历史人物图像时出现错误，导致图像显示出明显的种族偏差。本周早些时候，媒体发现Gemini生成了不同种族的纳粹分子和美国开国元勋的图像。例如，当提示生成“1800年代美国参议员”的图像时，Gemini生成了一名黑人男性。站长网2024-02-24 10:04:300000京东618直播业务调整：将提高直播激励
站长之家（ChinaZ.com）6月5日消息:据《每日经济新闻》报道，京东直播计划再次加大投入，通过现金、流量等激励措施，进一步激发合作机构和创作者的活力。据悉，京东直播将升级对机构、达人的管理机制，引入评级管理。届时，那些不符合标准的机构可能会面临淘汰。而在即将到来的京东618购物节期间，机构的开播时长、开播频次、开单量等方面的产出和效率，将成为此次评级管理的重要考量因素。站长网2024-06-05 16:45:080000全球247亿美元豪赌GenAI，疯狂入局AI成高风险博弈？
【新智元导读】面对GenAI的技术浪潮，很多人都会在不断迭代更新的技术中逐渐迷失。站在潮头的Sapphire、Emergence、Menlo等风投公司，又会如何看待这场AI变局的现状与走向?根据SapphireVentures的数据，GenAI领域从2022年到2023年迎来了爆发式的增长，全球范围（不含中国）的风投资金总量从76亿美元陡增到247亿。站长网2024-07-11 08:56:380000
