嘉楠科技Canaan开源通用大语言模型Toucan
站长网2023-08-31 08:45:340阅
近日,嘉楠科技(Canaan)发布了参数量为70亿的通用大语言模型 Toucan-7B 及 INT4量化版本 Toucan-7B-4bit。

Toucan-7B 能够实现文案写作、代码解析、信息抽取等多种自然语言处理任务,并在测试中表现优于 ChatGLM-6B。Toucan-7B-4bit 使用了最新的 INT4量化技术,显存占用量更低,与 Toucan-7B-fp16模型相比,具有较好的推理效果。
据悉,Toucan 是一个基于 Meta LLaMa 架构的开源中文对话语言模型。它具有70亿参数,并结合了模型量化和稀疏技术,可以在端侧进行推理。Toucan-7B 的效果略好于 ChatGLM-6B,而经过4bit 量化后的模型与 ChatGLM-6B 的效果相当。
项目地址:https://github.com/kendryte/Toucan-LLM
0000
评论列表
共(0)条相关推荐
Memo AI:一个小而美的AI音视频转译工具
MemoAI是一个小型而强大的AI音视频转译工具,具有多项实用功能。它使用先进的AI技术,可以将YouTube、播客等视频和音频转录成文字,并支持多语种之间的翻译,目前覆盖90多种语言。核心功能包括:视频转文字、多语言支持、文字翻译、漂浮注释、实时字幕、本地媒体支持、音频剪辑、AI摘要等。体验地址:https://memo.ac/站长网2023-09-14 21:38:060007《洛基》第二季宣传海报遭争议 涉嫌使用生成式AI
文章概要:-Disney的《洛基》第二季宣传海报因涉嫌部分使用生成AI而引发专业设计师的争议。-设计师指出,海报背景中的螺旋时钟图案显示出生成AI的迹象,引发了关于AI图像生成对创意社区的担忧。-Shutterstock规则禁止未使用其AI工具创建的生成AI内容在平台上获得许可,这引发了对该平台是否有效执行规则的疑虑。站长网2023-10-10 11:58:410000微软考虑为 Bing Chat 推出「专家模式」搜索界面
微软正在探索为BingChat创建「专家模式」搜索界面的可能性,这一消息由Bing的CEOMikhailParakhin在他的Twitter账号上透露。尽管这一潜在功能的具体细节尚未公布,但它明确表明微软致力于完善其搜索平台,以满足更具专业知识的用户群体。另外,微软近日还开始在Chrome和Safari上推出BingChat。站长网2023-07-26 16:33:380002曝小米SU7六月交付首破万辆 全年销量冲刺12万台
快科技6月28日消息,汽车博主孙少军”爆料称,截止今日,小米SU7本月交付正式破万。而小米汽车在4月3日开启首次交付,4月就已完成交付7,058辆;如今距其交付仅2个月,就已实现破万辆的交付成绩。此外,为加快交付进度,小米SU7Pro版已于5月18日在北京开启交付,比原计划提前了12天。站长网2024-06-29 16:22:440000LangSplat:精准搜索3D世界中的对象 比LERF快199倍
划重点:🚀创新方法:LangSplat通过将CLIP特征映射到一组3D语言高斯中,实现了精准的3D语言场,比LERF快199倍。🌍3D语言场:文章介绍了LangSplat,构建了一个3D语言场,支持在3D空间内进行精准高效的开放式语言查询。🎨视觉效果:LangSplat通过可视化学习特征,准确捕捉物体边界,无需后处理,同时在1440×1080分辨率下比LERF快199倍。站长网2024-01-02 11:35:180000