蚂蚁集团开源代码大模型CodeFuse-CodeLlama-34B 4bits量化版本
站长网2023-09-27 20:50:300阅
近日，蚂蚁集团代码大模型CodeFuse-CodeLlama-34B4bits量化版本发布。
CodeFuse-CodeLlama-34B-4bits是CodeFuse-CodeLlama-34B模型的4bits量化版本，后者是通过QLoRA对基座模型CodeLlama-34b-Python进行多代码任务微调而得到的代码大模型，模型输入长度为4K。
经4bits量化后，CodeFuse-CodeLlama-34B-4bits可用单张A10（24GB显存）或者RTX4090(24GB显存)加载，同时，量化后的模型在Humaneval pass@1指标上仍取得了73.8%的表现。
据悉，CodeFuse是蚂蚁自研的代码生成专属大模型，根据开发者的输入提供智能建议和实时支持，帮助开发者自动生成代码、自动增加注释，自动生成测试用例，修复和优化代码等，以提升研发效率。
CodeFuse-CodeLlama-34B4bits项目地址:
https://modelscope.cn/models/codefuse-ai/CodeFuse-CodeLlama-34B-4bits/summary
0000
评论列表
共(0)条相关推荐
FBI：黑客正在利用开源人工智能程序进行网络钓鱼和创建恶意软件
站长之家(ChinaZ.com)7月31日消息:据FBI称，犯罪分子正在利用开源生成式人工智能程序从事各种卑劣行为，包括开发恶意软件和网络钓鱼攻击。上周五，FBI与记者进行了电话交流，讨论生成式人工智能程序在科技行业中引起的轰动，同时也在助长网络犯罪。恶意活动范围涵盖使用AI程序改进和推出诈骗行为，甚至恐怖分子咨询这项技术以帮助他们打造更具威力的化学袭击。站长网2023-07-31 14:20:220000京东重新定义9.9元包邮
3袋东北兴凯湖的500克装云露香米，3斤装的四川软籽石榴，16卷5层加厚的漫花无芯卷纸，这些平时至少十几元、几十元的日用产品，现在只要9.9元就能包邮到家。如果你身边还有几个购物搭子，那么你和你的搭子们还能以9.9元的价格买到平时40多块的20枚无抗鲜鸡蛋，以89元的价格买到平时上百元的飞利浦（PHILIPS）电动牙刷……站长网2024-09-12 02:31:530000马化腾年会同款79元红毛衣火了 一天内吸引了超200人购买
站长之家（ChinaZ.com）1月31日消息:腾讯公司董事会主席、首席执行官马化腾在2024年1月29日的年会上发表演讲，透露了对腾讯未来的信心，并特别强调了视频号的成功。他表示视频号是“全鹅厂的希望”，并宣布全力发展视频号直播电商。据腾讯财报显示，2023年三季度，微信视频号总播放量同比增长超过50%。站长网2024-01-31 14:19:510001在艰难的2023，私域是提供稳定增量的来源
2023年中，参与调研的超6成企业表示其私域带来收入贡献更高。如果放在艰难的市场环境中，会发现私域已经成为企业必然追加投入的务实方向。当下能带来增长的方法——不仅是利润，还包括对其他渠道的帮助——不会很多，私域是极少数还能提供稳定增量的来源。如果放在产业自身发展的角度看，则站在私域基础上，全域这个新提法为什么会开始成为业内讨论和关心的话题，就变得不言而喻——企业希望增长能持续、长期。0001只需0.5秒！MobileDiffusion：在手机设备上就能实现快速文本生成图像
**划重点:**1.🚀MobileDiffusion是一种专为移动设备设计的高效潜在扩散模型，可在半秒内生成高质量512x512图像。2.🧠通过优化模型架构，包括DiffusionUNet和图像解码器，MobileDiffusion展现了在计算效率上的出色表现。3.🌐该技术有望在移动设备上推动快速图像生成体验，拓展了生成模型在提高用户体验和应对隐私问题方面的潜在应用。站长网2024-02-01 10:19:000000
