中科大联合封神榜团队发布中文医疗领域大模型ChiMed-GPT
站长网2023-11-20 16:46:150阅
中科大和 IDEA 研究院封神榜团队合作开发了一款名为 ChiMed-GPT 的中文医疗领域大语言模型（LLM）。该模型基于封神榜团队的 Ziya2-13B 模型构建，拥有130亿个参数，并通过全方位的预训练、监督微调和人类反馈强化学习来满足医疗文本处理的需求。
ChiMed-GPT 的训练过程包括三个阶段:预训练、监督式微调和人类反馈强化学习。在预训练阶段，模型使用了2.14亿字的医学百科文档和教科书文章进行继续训练，以扩展医疗领域的知识。在监督式微调阶段，模型利用问答和医患对话数据来提升在真实医疗环境中理解人类指令的能力。在人类反馈强化学习阶段，模型使用拒绝采样技术进行训练，通过奖励模型训练和拒绝采样微调来进一步提高模型性能。
在医疗信息抽取、问答和对话生成等任务上，ChiMed-GPT 的性能优于其他同规模的开源模型，并且在多个指标上超越了 GPT-3.5。在医疗信息抽取任务中，ChiMed-GPT 的性能优于通用和医学领域的开源模型。在问答任务和对话生成任务中，ChiMed-GPT 在多个评估指标上表现出色，展示了其在实际应用中的广泛适用性。
据悉，ChiMed-GPT 的研发对于提升医疗智能的重要性具有重要意义。该模型不仅能够有效处理医疗文本数据，还能生成适合回答患者咨询的内容。
Github:
https://github.com/synlp/ChiMed-GPT
HuggingFace:
https://huggingface.co/SYNLP/ChiMed-GPT-1.0
0000
评论列表
共(0)条相关推荐
在美国售价$1600的Mac在巴西卖到$3500，巴西的税到底有多离谱？
最近，我们在刷社交媒体时看到一个巴西小哥吐槽，自己去美国旅游，顺手买了台MacBook。回到巴西后发现，这台MacBook加上他的往返机票钱，比在巴西本地购买一台同规格的MacBook还要便宜!因为日常工作会关注到与跨境电商相关的信息，巴西因为税制等原因，东西贵一些，我们是知道的，但这么贵，实在出乎意料。好奇心驱使下，我去查了MacBook在Amazon美国和巴西站的价格。站长网2023-08-08 14:03:200000瑞幸：酱香拿铁原料断货 将再向茅台采购飞天茅台酒
凤凰网科技讯9月7日，瑞幸咖啡官方发布通知，称酱香拿铁热度远超预期，目前原料供应不足，多数门店本周内陆续出现售罄。瑞幸已经向贵州茅台紧急采购新一批53度飞天茅台酒，并组织供应商紧急生产，预计10日起部分城市门店恢复供应，19日起全国门店陆续恢复供应。站长网2023-09-07 20:48:360000命运大转盘，谁握住了直播电商
罗永浩年轻时候是个不折不扣的“社会闲杂人员”，高中肄业，筛过沙子、摆过地摊、卖过壮阳药，可以说一事无成。走投无路之下，罗永浩仔细研究了一番新东方，发现它不仅提供一份高薪工作，而且还到处宣扬理想主义。一瞬间，罗永浩觉得自己遇上同道中人，洋洋洒洒写了一封上万字的求职信，勾勒出的理想主义青年形象，一下子就打动了新东方创始人，兼贩卖理想主义鼻祖俞敏洪，双方约了面谈。站长网2023-08-01 14:03:370001AI视野：OpenAI计划自研AI芯片；Canva发布AI设计工具Magic Studio；DocsGPT登顶GitHub热榜；哩布哩布AI重新上线
🤖📈💻💡大模型动态CMU华人打破大模型黑盒，Llama2撒谎被一眼看穿!站长网2023-10-07 15:17:090000Perplexica：开源AI驱动的问答搜索引擎
Perplexica是一个开源的AI驱动搜索引擎，提供多种搜索模式，旨在为用户提供更精准、更智能的搜索体验。它受到PerplexityAI的启发，不仅能够搜索网络，还能理解并回答用户的问题。Perplexica的核心功能包括:本地大型语言模型（LLMs）支持:支持使用本地部署的大型语言模型，如Llama3和Mixtral，通过Ollama进行操作。多种搜索模式:站长网2024-04-28 20:50:050002
