蚂蚁集团开源代码大模型CodeFuse-CodeLlama-34B 4bits量化版本
站长网2023-09-27 20:50:300阅
近日，蚂蚁集团代码大模型CodeFuse-CodeLlama-34B4bits量化版本发布。
CodeFuse-CodeLlama-34B-4bits是CodeFuse-CodeLlama-34B模型的4bits量化版本，后者是通过QLoRA对基座模型CodeLlama-34b-Python进行多代码任务微调而得到的代码大模型，模型输入长度为4K。
经4bits量化后，CodeFuse-CodeLlama-34B-4bits可用单张A10（24GB显存）或者RTX4090(24GB显存)加载，同时，量化后的模型在Humaneval pass@1指标上仍取得了73.8%的表现。
据悉，CodeFuse是蚂蚁自研的代码生成专属大模型，根据开发者的输入提供智能建议和实时支持，帮助开发者自动生成代码、自动增加注释，自动生成测试用例，修复和优化代码等，以提升研发效率。
CodeFuse-CodeLlama-34B4bits项目地址:
https://modelscope.cn/models/codefuse-ai/CodeFuse-CodeLlama-34B-4bits/summary
0000
评论列表
共(0)条相关推荐
揭秘Sora：用大语言模型的方法理解视频，实现了对物理世界的“涌现”
站长网2024-02-18 18:15:460000苹果关闭圣地亚哥AI团队，数据运营注解团队将迁至奥斯汀合并
**划重点:**1.🏢苹果关闭位于圣地亚哥的121人AI团队，将其与奥斯汀的类似团队合并。2.🤖负责提升Siri语音助手听取用户查询的团队被告知可以选择迁至奥斯汀，否则将在4月26日失业。3.🌐人工智能的崛起导致多家知名公司裁员，AI技术取代白领工作，资金转向技术发展。站长网2024-01-15 12:06:490000必和必拓与微软合作：在世界上最大的铜矿使用 AI 和机器学习提高铜矿回收率
必和必拓公司周二表示，该公司正在与微软公司开展合作，利用人工智能和机器学习技术来改善智利Escondida矿场的铜回收率。该矿场是世界上最大的铜矿。必和必拓首席技术官LauraTyler表示，通过结合新的数字技术能力和新的工作方式，Escondida矿场的团队有望从现有资源中创造更多价值。站长网2023-05-31 09:04:030000“天猫精灵”拟更名XGENIE 将千万终端升级接入“大模型”
据上证报消息，9月15日，有消息称阿里巴巴旗下“天猫精灵”将更名，已有XGENIE品牌字样的新品在部分渠道露出。对此，内部人士处确认，9月19日确实将发布新品牌新产品。该负责人处表示，新品发布同时，天猫精灵已发售产品服务不受影响，还会有至少千万量级的已发售终端，通过线上升级接入“大模型”和多项AIGC能力。站长网2023-09-15 16:17:280000苹果头显Vision Pro将于2月2日在美国上市 价格3499美元
苹果官网宣布，其混合现实头显VisionPro将于2月2日在美国上市。这款产品的预购已于太平洋时间1月19日早上5点（北京时间21:00）开始，起步版本配备256GB存储，售价3499美元(约合2.5万人民币)。为了提供更个性化的使用体验，苹果还提供了近视镜和老花镜的配套镜片，其中蔡司光学镜片（老花镜）售价99美元，蔡司光学镜片(处方镜)售价149美元。站长网2024-01-09 08:12:180000
