智谱AI宣布开源 GLM 第四代模型 GLM-4-9B
GLM 技术团队于2023年3月14日开源了 ChatGLM-6B,引起了广泛的关注和认可。随后又开源了 ChatGLM3-6B,开发者对 GLM 第四代模型的开源充满期待。经过近半年的探索工作,GLM 技术团队推出了第四代 GLM 系列开源模型:GLM-4-9B。
GLM-4-9B 在预训练方面引入了大语言模型进行数据筛选,获得了10T 高质量多语言数据,数据量是 ChatGLM3-6B 的3倍以上。同时,采用了 FP8技术进行高效的预训练,训练效率提高了3.5倍。在有限显存的情况下,探索了性能极限,发现6B 模型性能有限。考虑到大多数用户的显存大小,将模型规模提升至9B,并将预训练计算量增加了5倍。

GLM-4-9B 模型具备更强大的推理性能、更长的上下文处理能力、多语言、多模态和 All Tools 等能力。包括基础版本 GLM-4-9B(8K)、对话版本 GLM-4-9B-Chat(128K)、超长上下文版本 GLM-4-9B-Chat-1M(1M)和多模态版本 GLM-4V-9B-Chat(8K)。
GLM-4-9B 的能力包括:
1. 基础能力:模型中英文综合性能比 ChatGLM3-6B 提升了40%;
2. 长文本能力:上下文从128K 扩展到1M tokens,相当于2本红楼梦或125篇论文的长度;
3. 多语言能力:支持26种语言,词表大小扩充到150k,编码效率提高30%;
4. Function Call 能力:在 Berkeley Function-Calling Leaderboard 上表现优秀;
5. All Tools 能力:模型可以使用外部工具完成任务;
6. 多模态能力:首次推出多模态模型,性能显著。
代码:
Github:https://github.com/THUDM/GLM-4
模型:
huggingface:https://huggingface.co/collections/THUDM/glm-4-665fcf188c414b03c2f7e3b7
魔搭社区:https://modelscope.cn/organization/ZhipuAI
快手电商春节放大招: “好友送礼”功能上线,年货好礼一键送达!
站长之家(ChinaZ.com)1月27日消息:春节将至,快手电商再出新招,正式上线**“好友送礼”功能,为用户提供更加便捷、温馨的节日送礼体验。用户可以通过快手电商在线挑选年货、礼品,并一键赠送给指定好友,让祝福与心意快速传递。参与“春节不打烊”活动的商品,还可享受48小时内极速发货**的保障,确保节日好礼准时送达。0000stablevideo公测 用户每天可免费生成15个视频
StabilityAI官方的SVD视频生成平台已经开始公测。这个平台的功能是在SVD模型基础上增加了镜头控制的能力,让用户可以更灵活地生成视频。据介绍,这些视频是通过一些图片生成的。产品入口:https://top.aibase.com/tool/stable-video在公测阶段,每天用户可以享有150的免费额度,可以用来生成15个视频。用户们可以尽情体验这个平台带来的乐趣。站长网2024-02-22 17:50:400001小米应用商店称将严格检测“WiFi、清理、省电”类 App
今日午间,小米应用商店发布关于《小米应用商店“WiFi&清理&省电”类应用软件安全检测标准》的公告称,自2022年以来,在内外渠道收到了大量关于“WiFi&清理&省电”类应用的用户投诉,包括但不限于广告弹窗过多、自启动等诸多问题,严重影响了用户在小米手机上的使用体验。0001淘宝2023年度十大商品评选启动 爱因斯坦的脑子、酱香拿铁等入选
12月4日,淘宝正式启动了2023年度十大商品的评选活动。2023.12.4--2023.12.20期间,只要在淘宝上搜索“年度十大商品”,网友们就可以参与投票。据了解,“年度十大商品”是淘宝基于2023年商品的搜索热度、销量数据及淘宝热搜热度指数得出。站长网2023-12-04 16:42:430000字节跳动或关停多个互动剧业务 包括泡泡心选、果冻心选等
站长之家(ChinaZ.com)6月13日消息:随着字节商业化策略的进一步调整,巨量引擎所开发的一系列深受用户喜爱的IAP互动剧小程序,如泡泡心选、爪爪心选和果冻心选,将于6月17日正式停止运营。在关停前,三个平台均已发布了详细的通知公告,以确保用户权益得到妥善保障。公告指出,用户在6月17日之前,仍可使用账户内尚未消耗的看点进行互动体验。站长网2024-06-14 00:28:430000