登陆注册
5509

信也科技推出第一代大语言模型应用开发框架E-LADF

站长网2023-07-15 11:18:531

近日,信也科技推出第一代LLM(大语言模型)应用开发框架E-LADF。E-LADF以类ChatGPT大模型引擎、向量数据库等基础组件为底座,旨在提供一系列功能接口,帮助开发者构建和部署基于LLM的应用程序。

目前,E-LADF包含四大核心接口功能:本地知识库管理、通用场景流式对话、基于本地知识库的问答和长文本实体抽取与摘要。

此外,它在大模型支持方面也具有出色的灵活性和可扩展性,不仅适配并支持云服务商的LLM服务接口,还提供本地化部署方案。

E-LADF不仅支持适配OpenAI的ChatGPT服务接口,还提供了本地化方式部署LLM的功能。

目前,E-LADF已经成功集成并支持了几个性能仅次于ChatGPT在英文和中文上表现优秀的本地LLM模型,包括ChatGLM、Vicuna系列模型。用户甚至可以基于这些模型进行微调,以满足特定应用场景更高精度的需求。

0001
评论列表
共(0)条