支持中文,性能超GPT-4!笑脸排名第一的纯代码模型
生成式AI代码开发平台Phind在官网发布了最新V7版本,性能方面超越GPT-4,运行效率提升了5倍,并且支持中文和16K超长上下文。
据悉,Phind V7是基于Phind的开源代码模型CodeLlama-34B V2,以及700亿个高质量代码和推理问题进行了额外精调。
CodeLlama-34B V2在huggingface(笑脸)的代码大模型排行榜中位居第一名,这也是首个击败GPT-4的开源代码项目。
无需注册,免费在线测试地址:https://www.phind.com/
开源地址:https://huggingface.co/Phind/Phind-CodeLlama-34B-v2
Phind V7专业代码开发平台
Phind V7在HumanEval上的测试分数达到74.7%,成功超越了GPT-4在今年3月份的官方技术报告中公布的67%的成绩。
但Phind发现,HumanEval的评分并不能准确地反映出大模型的实用性。
Phind将多个版本部署到自家服务平台后,收集到了大量反馈信息,发现其模型在大多数真实问题上的表现与GPT-4相当甚至更好。
许多在其Discord社区的用户已经开始只使用Phind的产品,尽管他们也订阅了GPT-4。
除了性能超强之外,运行速度是Phind V7的一大技术亮点,通过在NVIDIA的新型TensorRT-LLM库上运行模型,Phind成功实现了比GPT-4快5倍的运行速度,达到每秒处理100tokens。
另一个优点是Phind支持多达16k tokens的上下文。目前,Phind允许用户输入最多12k tokens,剩余的4k tokens用于网络结果。
Phind V7精通Python、C/C 、TypeScript、Java等主流编程语言,使用界面也简单直观,直接输入你的编程问题就能返回代码。
例如,我们直接输入中文提示:用python写一个吃豆游戏的代码。
Phind返回的注释也都是中文,如果点击三角按钮可以直接在replit中运行非常方便。
支持多轮深度对话,继续发问,游戏中的吃豆人和豆子是如何运动的?
Phind在对文本回答时,会标注引用的原出处,用户点击网站可以直接跳转。
CodeLlama-34B V2
CodeLlama-34B V2代码模型使用了80,000个高质量编程问题和解决方案的专有数据集进行微调。这个数据集的技术特点在于,采用的是指令-答案对的格式,而非常见的代码补全示例,使得在结构上与HumanEval有明显的区别。
此外,Phind还将 OpenAI 的去污方法应用在数据集中,以确保结果准确有效并且没有发现受污染的示例。
方法是:1)对于每个评估示例,随机抽取了三个50个字符的子字符串,如果少于50个字符,则使用整个示例。
2)如果任何采样的子字符串是已处理的训练示例的子字符串,则识别为匹配。
在训练过程中,Phind使用了DeepSpeed ZeRO3和Flash Attention2技术,并使用了32个A100-80GB的GPU,仅在三小时内就完成了序列长度为4096的模型训练。
经常编程的小伙伴们可以试试该模型,生成、审核、注释、改错样样精通,是降本增效的利器。
央视点赞国产AI复活召唤术,兵马俑竟与宝石老舅对唱Rap?
沉睡了两千多年的兵马俑,苏醒了?一句秦腔开场,将我们带到了黄土高原。如果不是亲眼所见,很多观众可能难以想象,有生之年还能看到兵马俑和宝石Gem同台对唱《从军行》。「青海长云暗雪山,孤城遥望玉门关。」古调虽存音乐变,声音依旧动人情:站长网2024-07-04 09:16:100000国产大模型推理能力已超GPT-3.5!冲进OpenAI评测榜第一梯队
OpenAI开源的数学数据集,中国厂商新成绩一举冲到最前列!就在9月16日,国产大模型在权威推理评测集GSM8K中,首次达到了80%正确率,大幅领先GPT-3.5(57.1%)和LLaMA2-70B(56.8%)。而且这家厂商在大模型榜单上刷新全球纪录,已经不是第一次了。它背后的公司在风起云涌的大模型技术江湖中,也频频被提及,越来越受关注。不卖关子,它正是天工大模型,由昆仑万维打造。站长网2023-09-18 22:11:520000苹果iPhone 15系列今晚8点开启预售 售价5999元起
苹果秋季新品发布会正式发布了备受期待的iPhone15系列,包括iPhone15、iPhone15Plus、iPhone15Pro和iPhone15ProMax。苹果AppleStore将在9月15日晚8点开始iPhone15系列等新品的预售,该系列将于9月22日正式上市。除了苹果官网,用户还可以从天猫旗舰店和京东自营店预定第一批机型。站长网2023-09-15 11:08:440000AI视野:谷歌发布视频生成模型Lumiere; AI女友陪聊月入20+万元;谷歌浏览器新增生成式AI;《幻兽帕鲁》疑似用AI卷设计
欢迎来到【AI视野】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。新鲜AI产品点击了解:https://top.aibase.com/🤖📱💼AI应用谷歌发布视频生成模型Lumiere【AiBase提要:】⭐运动幅度和一致性表现良好⭐支持文生视频,图生视频,视频生视频站长网2024-01-24 16:08:290003NVIDIA提出 Tied-Lora:提高LoRA方法的参数效率 用13%参数实现性能与标准LoRA方法相媲美
**划重点:**1.🚀NVIDIA的研究人员开发了一种名为Tied-LoRA的新技术,旨在提高LoRA方法的参数效率。2.🔄Tied-LoRA通过权重绑定和选择性训练,寻找性能和可训练参数之间的最佳平衡。3.📊在不同任务和基础语言模型上进行的实验证明,Tied-LoRA可以在只使用标准LoRA方法13%的参数的情况下实现可比较的性能。站长网2023-11-24 11:23:310001