Meta的Llama-3.1-405B遭泄漏,可下载,性能超GPT-4o!
7月23日凌晨,有人爆料,Meta的Llama3.1-405B评测数据遭遇泄漏,明天可能会发布Llama3系列中最大的参数模型,同时还会发布一个Llama3.1-70B版本。
这也是在3.0版本基础之上进行了功能迭代,即便是70B的基础模型的性能也超过了GPT-4o。
![](https://i.zz5.net/images/article/2024/07/23/103458379.jpg)
就连磁力链接都流出来了,「AIGC开放社区」试了一下大约有763.84G。本来huggingface上也有的,后来库被删除了。
磁力地址:
Magnet: magnet:?xt=urn:btih:c0e342ae5677582f92c52d8019cc32e1f86f1d83&dn=miqu-2&tr=udp%3A%2F%https://2Ftracker.openbittorrent.com%3A80
![](https://i.zz5.net/images/article/2024/07/23/103458380.jpg)
下载速度也还可以,每秒14M左右,看来确实是有不少人在下这个模型。
![](https://i.zz5.net/images/article/2024/07/23/103458395.jpg)
但这个模型一般的GPU肯定是跑不起来,如此大的参数在部署方面个人开发者也负担不起(如果你有一些H100也没问题),估计是给企业、政务公共部门用的。
对于Meta即将发布的模型,就有网友泼冷水。相比OpenAI最新的GPT-4o mini版本,Llama3.1-70B推理成本提升了3倍,但编码的性能却要差很多。
从性价比、功能来看,Meta的新模型也没什么值得期待的。
![](https://i.zz5.net/images/article/2024/07/23/103458411.jpg)
还有人甚至在GitHub上看到了上述发布的模型,但很快就拿下来了,估计有一些人可能已经能使用了。
![](https://i.zz5.net/images/article/2024/07/23/103458426.jpg)
也有人表示,对于这个泄漏事件他认为是真的,因为这是从微软的Azure Github流出来的。
![](https://i.zz5.net/images/article/2024/07/23/103458442.jpg)
但是这个模型参数较大,对GPU的要求太高了,不如GPT-4o mini性价比高。
![](https://i.zz5.net/images/article/2024/07/23/103458458.jpg)
![](https://i.zz5.net/images/article/2024/07/23/103458459.jpg)
虽然模型是免费的,想运行起来还是相当费劲的,没有企业级的算力基础真的无法使用。所以,这对于企业来说是一个不错的好消息。
![](https://i.zz5.net/images/article/2024/07/23/103458473.jpg)
有人指出即便对Llama3.1-405B模型进行大幅度优化,量化到5位数,仍然无法适用于消费级GPU,真的是对硬件要求特别高。
![](https://i.zz5.net/images/article/2024/07/23/103458489.jpg)
如果这份评测数据是真的,那么对于全球多数国家来说都是一个天大的福利。因为这是Meta的Llama3系列的顶级模型并且是全部开放权重,也就是说人人都能用上免费的AI模型。
但是如果想开发生成式AI应用,也需要强大的AI算力基础、高质量数据以及微调技术。
![](https://i.zz5.net/images/article/2024/07/23/103458504.jpg)
由于监管机构和各种法案的原因,Meta一直在推迟405B系列模型的发布。那么,本次泄漏是否是Meta特意放出来的呢,因为这是他们的老传统了,去年的Llama模型就干过一次,
当时「AIGC开放社区」也测试过,确实就是他的原模型。期待一波明天,看看Meta还能整啥花活。
LLM是世界模型的新证据?ChatGPT能理解WiFi等物理信号,并猜出你的位置
大语言模型是否是世界模型?大语言模型除了在数字世界完成如写作或翻译等任务,它们能否理解并处理物理世界中的信息并进而完成更广泛的任务呢?最近来自香港科技大学(HKUST)、南洋理工大学(NTU)与加利福尼亚大学洛杉矶分校(UCLA)的研究者们提供了新的思路:他们发现大语言模型如ChatGPT可以理解传感器信号进而完成物理世界中的任务。该项目初步成果发表于ACMHotMobile2024。站长网2024-02-13 11:00:360000阿里云通义千问2.0正式升级发布 参数规模达千亿
在2023年的云栖大会上,阿里云首席技术官周靖人宣布了阿里大模型家族的全面升级发布,通义千问2.0正式升级发布。据介绍,通义千问2.0模型的参数规模达到了千亿级别,无论是在阅读理解、逻辑思维还是数据处理等方面,都实现了大幅度提升,达到了国际先进水平。同时,通义千问App也随着发布,用户可以下载该应用程序进行体验,支持语音对话等功能。站长网2023-10-31 14:38:480003比特币矿商 Bit Digital 涉足人工智能基础设施业务:以获得比挖矿「高得多的利润」
在当前比特币持续熊市影响矿工利润的背景下,比特数字(BitDigital)公司正迅速将业务扩展至人工智能(AI)基础设施领域,以实现收入来源的多元化。据公司周一发布的声明称,比特数字将成立新的部门,购买并租用高性能计算机(HPC)设备,为需要使用高性能计算机的人工智能公司提供服务,并将这些设备部署在第三方数据中心。站长网2023-10-24 21:46:240003半年花8万,年轻人开始疯抢“捏捏”
年轻人又有了“烧钱”的新玩具。近期,“捏圈”火了,年轻人动辄花几百元、几千元买一款“捏捏”,半年累计花费上万的消息,冲上热搜。输入“捏捏”,各大社交媒体平台关于它的帖子高达十万以上。不少博主的“捏捏”开箱视频点赞量也在一万以上。什么是“捏捏”?站长网2024-06-04 15:43:020003这届高考,忙坏了AI考生
又到了全民围观高考作文的日子了。与往年不同的是,今年这届高考考生赶上了AI大年。微博上,#AI写高考作文#与#高考语文#、#高考作文#、#高考作文简单#等高考相关话题一同稳居热搜榜。全国甲卷“时间的仆人”一题更是在语文考试刚结束时迅速登上热搜,并出现在很多玩家的“AI写高考作文”测试中。站长网2023-06-08 07:23:200000