蚂蚁集团开源代码大模型CodeFuse-CodeLlama-34B 4bits量化版本
站长网2023-09-27 20:50:300阅
近日，蚂蚁集团代码大模型CodeFuse-CodeLlama-34B4bits量化版本发布。
CodeFuse-CodeLlama-34B-4bits是CodeFuse-CodeLlama-34B模型的4bits量化版本，后者是通过QLoRA对基座模型CodeLlama-34b-Python进行多代码任务微调而得到的代码大模型，模型输入长度为4K。
经4bits量化后，CodeFuse-CodeLlama-34B-4bits可用单张A10（24GB显存）或者RTX4090(24GB显存)加载，同时，量化后的模型在Humaneval pass@1指标上仍取得了73.8%的表现。
据悉，CodeFuse是蚂蚁自研的代码生成专属大模型，根据开发者的输入提供智能建议和实时支持，帮助开发者自动生成代码、自动增加注释，自动生成测试用例，修复和优化代码等，以提升研发效率。
CodeFuse-CodeLlama-34B4bits项目地址:
https://modelscope.cn/models/codefuse-ai/CodeFuse-CodeLlama-34B-4bits/summary
0000
评论列表
共(0)条相关推荐
独家｜字节短剧首次出海：成立海外短剧团队，上线Melolo短剧APP
Tech星球独家获悉，字节跳动已经成立海外短剧业务团队，并招聘多个短剧海外相关的职位，如海外短剧用户产品经理、欧美文案策划等，Base地在北京、上海等地。此外，字节在海外还上线一款名为“Melolo”的短剧App，主打免费模式，这也是字节首个出海的短剧产品。0000Livehouse巡演市场已经“崩盘”了吗？
今年Livehouse不好做，是有目共睹的。只不过这次，音乐人应对的方式和态度更为激进。前天（6月5日），《鲸鱼马戏团将无限期停止LIVEHOUSE全国巡演》一文在业内引发了不少关注和讨论。站长网2023-06-08 13:35:450000滴滴全面“崩溃”12小时 预计损失千万订单和4亿成交额
11月27日晚间，滴滴因系统故障导致App服务异常。滴滴出行包括网约车、共享单车等所有业务全面瘫痪，直到次日凌晨方才基本恢复。此次故障达12小时之久，是滴滴近年来持续时间最长的一次大规模故障。站长网2023-11-28 16:41:070000美媒：马斯克“星链”在卫星互联网“一手遮天”？这些国家感到担忧
凤凰网科技讯北京时间7月30日消息，据美媒报道，凭借着SpaceX的“星链”卫星群，科技亿万富翁埃隆马斯克(ElonMusk)已经成为卫星互联网技术领域的一股主导性力量，但是他运用这种影响力的方式正在引发全球警惕。一手遮天0002腾讯智影宣布声音模型大升级：更自然流畅、语调情感更丰富
腾讯智影宣布声音模型大升级，具体提升包括更自然流畅、语调情感更丰富、减少语音瑕疵和适应性更好。新版本声音更加自然连贯，具有更丰富的语调和情感，减少了语音瑕疵的出现概率，并能更好地适应不同文本内容和语境。同时，智影还推出了两款免费新音色，分别是热情似火的女声和可爱亲切的女声，适用于对话闲聊场景。此外，声音定制效果也有所升级，采样率从16K升级到24K，用户可以定制同样升级版效果的音色。站长网2024-05-24 11:06:140000
