LLaMA

**划重点:**-💡Vista-LLaMA是一种专为视频内容理解而设计的多模态大语言模型，能够输出高质量视频描述。-🔬通过创新的视觉与语言token处理方式，Vista-LLaMA解决了在视频内容中出现“幻觉”现象的问题。-🚀改良的注意力机制和序列化视觉投影器提高了模型对视频内容的深度理解和时序逻辑把握。

Llama3.1终于现身了，不过出处却不是Meta官方。今日，Reddit上新版Llama大模型泄露的消息遭到了疯传，除了基础模型，还包括8B、70B和最大参数的405B的基准测试结果。下图为Llama3.1各版本与OpenAIGPT-4o、Llama38B/70B的比较结果。可以看到，即使是70B的版本，也在多项基准上超过了GPT-4o。

站长之家(ChinaZ.com)11月1日消息：戴尔公司宣布与Facebook的母公司Meta合作，旨在简化客户在本地部署Llama2大语言模型（LLM）的过程，而不是通过云服务访问。戴尔表示，存在一个企业客户市场，他们希望使用自己的IT基础设施部署和运行Meta的AI模型，戴尔的目标是成为该设备的首选提供商。

全球社交、科技巨头Meta在官网开源了全新模型——LlamaGuard。据悉，LlamaGuard是一个基于Llama2-7b的输入、输出保护模型，可对人机会话过程中的提问和回复进行分类，以判断其是否存在风险。可与Llama2等模型一起使用，极大提升其安全性。

Meta计划从主要云计算公司的Llama2人工智能大型语言模型转售中获利。Meta首席执行官马克·扎克伯格在季度收益电话会议上表示：「如果你是像微软、亚马逊或谷歌这样的公司，并且基本上会转售服务，我们认为我们应该获得部分收入。」他继续说道：「我认为这在短期内不会带来大量收入，但从长远来看，希望能有所回报。」

文章概要:-Riiid最新生成式AI模型在HuggingFace排名第一-模型Sheep-duck-llama-2在10月提交，获得74.07分-该模型通过调优取得进步，验证了瑞德在AI技术上的领先地位近日，AI教育解决方案领导者Riiid宣布，其最新生成式AI模型在知名机器学习模型平台HuggingFace上获得第一名。

【新智元导读】大语言模型黑盒，居然被CMU等机构的学者打破了?他们发现，LLM内部有可解释的表征，如果撒谎，还能被测谎仪检测出来!最近，来自CAIS、CMU、斯坦福、康奈尔、马里兰、宾大等机构的学者又有了令人震惊的发现——大语言模型，并不仅仅是黑匣子，或者难以理解的庞大矩阵。在它们内部，具有可解释的内部表征。

2023年7月11日，百川智能正式发布了参数量130亿的通用大语言模型Baichuan-13B、对话模型Baichuan-13B-Chat及其INT4/INT8两个量化版本，成为中国开源大模型领域的重要里程碑。与美国的闭源大模型相比，开源模型具有灵活的定制性和私有化部署的优势，推动了中国大模型产业的发展和技术进步。

Meta首席执行官马克·扎克伯格(MarkZuckerberg)成为两名美国参议员关注的焦点人物。在今天的一封信中，参议员理查德·布卢门撒尔（民主党-康涅狄格州），参议院隐私、技术和法律小组委员会主席，以及乔希·霍利（共和党-密苏里州），该小组委员会的副主席，对Meta最新的开创性大型语言模型LLaMA的泄漏事件表示关切。

要点:1.十大主流AI模型的透明度正在受到关注，其中Llama2在透明度评估中位列第一，而GPT-4等模型的透明度不佳。2.斯坦福大学、MIT、普林斯顿大学等团队提出了“基础模型透明度指数”，对十个主流模型的透明度进行评估，结果显示透明度普遍不高。3.尽管有开源模型如Llama2等获得较高评分，但整体而言，AI行业的透明度不足，对模型构建过程、数据来源和劳动力等关键方面缺乏透明。

3月13日，社交、科技巨头Meta在官网公布了两个全新的24KH100GPU集群（49，152个），专门用于训练大模型Llama-3。此外，Llama-3使用了RoCEv2网络，基于Tectonic/Hammerspace的NFS/FUSE网络存储，继续使用了PyTorch机器学习库。

导读:时隔4个月上新的Gemma2模型在LMSYSChatbotArena的排行上，以27B的参数击败了许多更大规模的模型，甚至超过了70B的Llama-3-Instruct，成为开源模型的性能第一!谷歌出手，果然非同凡响。Gemma2上周刚刚发布，就在LMSYS竞技场上取得了亮眼的成绩。

Meta发布Llama3.1405B，开放权重大模型的性能表现首次与业内顶级封闭大模型比肩，AI行业似乎正走向一个关键的分叉点。扎克伯格亲自撰文，坚定表明「开源AI即未来」，再次将开源与封闭的争论推向舞台中央。

昨天凌晨，Meta突然官宣了Llama3，把开源模型的实力又往上提了一截。

蛰伏许久，Meta刚刚扔出了重磅炸弹:大家期待已久的Llama3，用了24000块GPU训练，一亮相便登上开源大模型铁王座。8B和70B取得同规模参数下开源领域的SOTA，推理编码大幅提升，代码和权重全开源!而且，400B的Llama3，也在路上了。LLM界的「真·OpenAI」，又来整顿AI圈了!

Llama3来了!就在刚刚，Meta官网上新，官宣了Llama380亿和700亿参数版本。并且推出即为开源SOTA:Meta官方数据显示，Llama38B和70B版本在各自参数规模上超越一众对手。8B模型在MMLU、GPQA、HumanEval等多项基准上均胜过Gemma7B和Mistral7BInstruct。

除了计算资源和训练数据这些硬实力外，Llama3模型开源的训练思路覆盖了LLM模型的全部生命周期，提供了各种开源生态系统下的工具。Llama3的开源，再次掀起了一场大模型的热战，各家争相测评、对比模型的能力，也有团队在进行微调，开发衍生模型。

【新智元导读】Llama3的开源，或将催生数十亿美元新产业。发布不到一周的时间，全网各种测试微调都开启了。甚至，Llama3在Groq上的输出速度实现了每秒800个token。Llama3诞生之后便艳压群雄，开源界已无「模」能敌。甚至，让网友为OpenAI捏了一把汗!现在的Llama3-70B已经一路攀升到大模型排行榜前列，仅次于GPT-4，打败了Claude3Opus。

【新智元导读】AI训AI必将成为一大趋势。Meta和NYU团队提出让大模型「自我奖励」的方法，让Llama2一举击败GPT-40613、Claude2、GeminiPro领先模型。Llama2-70B一夜之间打败GPT-4，让整个AI社区为之震惊!甚至，在AlpacaEval2.0排行榜中，微调后的模型胜率完全碾压Claude2、GeminiPro等模型。

「事情越来越明确了，各大科技公司的下一代服务会构建在通用AI之上。」为了通用人工智能（AGI）的宏大目标，扎克伯格正在给Meta的AI研究部门进行大幅度的改组。本周四，Meta首席执行官马克・扎克伯格宣布，他的公司正在致力于为人工智能助手构建「通用智能」并「负责任地开源」，Meta正在将其两个主要研究小组（FAIR和GenAI）合并在一起以实现这一目标。

据外媒报道，Meta首席执行官马克·扎克伯格宣布公司正计划打造通用人工智能（AGI），成为继Metaverse之后的新使命。扎克伯格表示，公司正在训练Llama系列中的下一个大型语言模型Llama3，预计在代码生成、推理和规划方面将具有更出色的能力，达到了GPT-4级别。

微软是迄今为止生成式人工智能热潮的最大赢家之一，这要归功于其早期支持OpenAI并整合了后者初创公司的技术进入Bing、Azure和各种其他服务，其显然一直在努力避免将所有人工智能鸡蛋放在一个篮子里。图片来自Microsoft如今，该公司宣布将Meta的竞争对手开源AI模型Llama2作为「模型即服务」（MaaS）引入AzureAIStudio，其云平台AI。

微软研究院当地时间周二宣布其Phi-2小型语言模型（SML），这是一款文本到文本的人工智能程序，据X平台的一篇帖子称，它「足够小，可以在笔记本电脑或移动设备上运行」。Phi-2拥有27亿参数，性能堪比其他更大的模型，包括Meta的Llama2-7B（拥有70亿参数）和Mistral-7B（另一款70亿参数模型）。

ChatGPT等大语言模型的推理能力有多强大?通过你发过的帖子或部分隐私数据，就能推算出你的住址、年龄、性别、职业、收入等隐私数据。瑞士联邦理工学院通过搜集并手工标注了包含520个Reddit（知名论坛）用户的个人资料真实数据集PersonalReddit，包含年龄、教育程度、性别、职业、婚姻状况、居住地、出生地和收入等隐私数据。

Meta今天宣布了一项名为「PurpleLlama」的新倡议，旨在促进人工智能（AI）系统的负责任开发。Meta表示，该项目将逐步提供AI开发社区构建开放生成AI模型所需的所有工具和评估，以确保安全和负责任的方式进行。

OpenAI内部的戏剧性事件让世界第一次看到了那些将决定AI未来人的激烈争斗。事实上，在此之前，硅谷已经发生了一场鲜为人知但激烈的竞争，旨在争夺这项技术的控制权。《纽约时报》采访了80多位高管、科学家和企业家，《纽约客》采访了微软和OpenAI两家CTO，分别从不同角度讲述了一个关于野心、恐惧和金钱的幕后故事。

在不断追求提升用户体验的道路上，WhatsApp正在准备推出一系列新功能，其中备受期待的是集成AI聊天机器人。这一功能目前正处于测试阶段，有望在未来为用户带来更便捷的通讯体验。

【新智元导读】刚刚，英伟达发布了目前世界最强的AI芯片H200，性能较H100提升了60%到90%，还能和H100兼容。算力荒下，大科技公司们又要开始疯狂囤货了。英伟达的节奏，越来越可怕了。就在刚刚，老黄又一次在深夜炸场——发布目前世界最强的AI芯片H200!较前任霸主H100，H200的性能直接提升了60%到90%。

要点:1.SamAltman在剑桥活动中遭到抵制，引发全球AI安全讨论升级，包括联名信呼吁对人工智能制定国际条约。2.MIT的研究指出，开源的Llama2存在潜在风险，可能被滥用以获取危险知识，呼吁采取法律行动限制模型权重公开。3.AI巨头分为「开源派」和「毁灭派」，各持己见，一方要求更加开放，另一方主张制定条约以防止AI灭绝人类，引发激烈辩论。

站长之家(ChinaZ.com)10月20日消息:包括前阿肯色州州长MikeHuckabee和畅销的基督教作家LysaTerKeurst在内的一组作家已在纽约联邦法院提起诉讼，指控Meta、微软和彭博在未经许可的情况下使用他们的作品来训练人工智能系统。

「杀死」OpenAI，小扎这波稳定了吗?今天凌晨，一年一度的MetaConnect大会上发布了一系列以AI为重点的公告。不仅是最新的MR耳机、与Ray-Ban合作打造的智能眼镜，最重要的是，Meta将在自身的所有通讯类App、MetaQuest3和未来的Ray-BanMeta智能眼镜中内置生成式AI技术驱动的新功能，从多轮对话的AI助手到图像编辑等一应俱全。

要点:1、通过词表扩充、数据筛选和多阶段训练策略，在15小时内用几千元成本训练出中文版LLaMA2。2、中文版LLaMA2在多项中文任务上的表现明显提升，达到同规模模型的先进水平。3、构建流程、代码和权重均开源，可迁移应用到其他语言和领域，实现低成本大模型训练。

Meta在官网正式开源了文本生成代码模型CodeLlama。CodeLlama模型通过特定代码数据预训练、微调而成，支持文本或代码生成、调试和完成任务。

欢迎来到站长之家的[每周AI大事件]，这里记录了过去一周值得关注的AI领域热点内容，帮助大家更好地了解人工智能领域的动态和发展风向。PART1动态[国内要闻]1.美图设计室AILogo设计功能上线

TogetherAI发布了Llama-2-7B-32K-Instruct:一项在语言处理中扩展上下文的突破。这项创新具有重大意义，特别是在需要对复杂上下文细微差别有深刻理解的任务中。该模型通过巧妙地利用TogetherInferenceAPI的能力，成功地处理了长篇指令，同时在短篇情境下表现出色。

Meta计划推出开源AI软件CodeLlama，旨在帮助开发人员自动生成编程代码。这款开创性的产品将挑战OpenAI和Google等科技巨头的专有软件。CodeLlama是一个开源人工智能模型，预计将于本周推出。此外，Meta还在开发名为CodeCompose的AI辅助代码编写工具。该工具已经扩展到Meta的数万名开发人员，涵盖多种编程语言和编码界面。

IBM最近宣布将在watsonx.ai托管Meta的Llama2-chat700亿参数模型，并向选择的客户和合作伙伴提供早期访问权限。企业现在正在采用生成式人工智能的趋势来增强他们的业务战略。为了有效利用其潜力，他们需要简化的方法来训练和构建自己的LLM，利用他们多年积累的数据。为了解决这个挑战，包括AWS和Azure在内的各种云服务提供商已加紧提供帮助。

科技领域人工智能竞争非常精彩，自从微软宣布将在其产品中实施人工智能，包括Windows11在内，许多科技巨头，包括Meta和Twitter，都希望以某种方式参与其中。微软一直处于AI的前沿，现在这家总部位于雷德蒙德的科技巨头正在将AI融入所有与微软相关的事物。例如，微软商店正在得到AI的帮助，它将能够为您自动总结评论，这样您就不必查阅所有评论。

StabilityAI与CarperAI发布了两个新的大型语言模型，名为FreeWilly。其中一个模型基于Meta的Llamav2，通过优化性能展示了开源开发的速度。

Facebook的母公司Meta本周在人工智能（AI）行业掀起了波澜，推出了LLaMA2，这是一个开源的大型语言模型（LLM），旨在挑战大型科技竞争对手的限制性做法。与谷歌、OpenAI和其他公司发布的严格保密的专有模型不同，Meta公司自由发布LLaMA2背后的代码和数据，以便全球研究人员能够构建和改进这项技术。

最近的一项交易表明，人工智能领域可能会看到越来越多的合作伙伴关系，而不仅仅是一对一的竞争。Meta早先本周在开放许可下免费提供其LLaMA2大型语言模型，并将其引入微软的Azure平台。这一决定突显了AI互操作性的好处，随着更多公司加入这个领域，这可能不会是最后一个类似的合作。

Meta的全球事务总裁NickClegg为马克·扎克伯格的Meta发布的开源人工智能模型进行了辩护，他声称关于人工智能危险的炒作超过了技术的发展。

本文将为大家介绍最新发布的GPT模型LLaMA2的新功能和更新内容。LLaMA2在原始模型基础上进行了改进，包括使用40%更大的数据集、经过强化学习和人类反馈调优的聊天变体以及可扩展到700亿参数的模型。文章还会为大家展示如何在PaperspaceGradient笔记本中运行LLaMA2模型的演示。型号概览

亚马逊公司宣布，Meta开发的Llama2基础模型可通过AmazonSageMakerJumpStart向客户提供。Llama2系列大型语言模型(LLM)是预先训练和微调的生成文本模型的集合，其规模从70亿到700亿个参数不等。

版权问题引发大规模的生成式人工智能争议，Meta试图以不公开训练数据的方式规避争议。周二，社交媒体巨头Meta发布了一款名为Llama2的庞大新模型，但在研究论文中几乎没有透露使用了哪些数据。「新的公开可用的在线数据，」Meta的研究人员在论文中写道，几乎没有其他信息。

高通和Meta两家公司今天宣布，将从2024年开始，这家社交网络公司的新大型语言模型Llama2可以在手机和PC上的高通芯片上运行。

微软在人工智能领域投资了数十亿美元，与OpenAI合作，在搜索和其他关键产品中使用其聊天机器人技术。但微软明确表示，在生成式人工智能方面，并不仅仅依赖OpenAI。在周二的Inspire大会上，微软宣布将Meta的新人工智能大语言模型「Llama2」提供给其Azure云计算服务。

Meta正在全力推进开源人工智能。该公司今天发布了LLaMA2，这是他们首款可供任何人免费使用的大型语言模型。

Meta即将发布其人工智能模型的商业版本，使初创企业和企业能够在该技术基础上构建定制软件。此举将使Meta能够与得到微软支持的OpenAI和谷歌竞争，后者正在AI赛道上快速发展生成式人工智能。