谷歌开源Gemma:参数小、性能超越Llama2,可轻松在笔记本上运行
划重点:
1. 💻 Gemma是谷歌开源的大语言模型,性能强悍,可商用。采用Gemini架构,有20亿、70亿参数版本,测试显示在数学、推理、代码方面超过Llama-2。
2. 🚀 Gemma支持普通笔记本、台式机运行,无需庞大的AI算力。开发者可通过Kaggle、Hugging Face等平台获取模型,同时谷歌提供详细的开发者指南和Responsible Generative AI Toolkit。
3. 🌐 Gemma优化跨框架、设备、硬件,支持多框架工具、跨设备兼容性、高级硬件平台,与NVIDIA合作优化,适用于Google Cloud。性能测试表明Gemma在主流平台上表现优异,是一款参数小而性能强大的大模型。
谷歌于2月22日宣布开源大语言模型Gemma,成为其生成式AI领域的新力量。Gemma采用Gemini架构,有20亿、70亿两个版本,分别支持预训练和指令微调。
据谷歌公布的测试结果显示,Gemma70亿模型在数学、推理、代码方面的能力超过了Llama-2的70亿和130亿,成为小参数类ChatGPT模型中最强的之一。
最令人振奋的是,Gemma不仅性能强大,而且可商用,并且轻松在普通笔记本、台式机上运行,无需庞大的AI算力。这使得开发者可以更加便捷地应用Gemma模型,而Kaggle和Hugging Face等平台也提供了方便的获取途径。同时,为了帮助使用Gemma的开发者更安全地构建AI应用程序,谷歌推出了Responsible Generative AI Toolkit等一系列工具。
Gemma的优势不仅在于性能和可用性,还体现在其全面的优化。谷歌强调,开发者可以在多框架工具中进行推理和微调,跨设备兼容性也是Gemma的一大特色,支持笔记本电脑、台式机、物联网、移动设备和云等多种设备类型。与NVIDIA的合作使得Gemma在GPU优化上表现出色,涵盖了从数据中心到云端再到本地RTX AI PC的多个硬件平台。
对于使用Google Cloud的开发者,Gemma同样得到了优化。Vertex AI提供全面的MLOps工具集,支持一键式部署,并具有内置推理优化功能。高级定制功能通过完全管理的顶点人工智能工具或自我管理的GKE实现,包括部署到GPU、TPU和CPU平台上具有成本效益的基础设施。
谷歌通过Gemma的性能测试展示了其在主流平台中的优越表现,尤其在数学、推理、代码等方面的标准学术基准测试平均分数都高于同规模的Llama2和Mistral模型。这表明,Gemma作为一款参数相对较小但性能异常强大的大模型,将为开发者提供更灵活、高效的AI应用解决方案。
项目入口网址:https://top.aibase.com/tool/gemma
技术报告:https://goo.gle/GemmaReport
微软开源 Azure ChatGPT 支持企业私有化部署
近日,微软开源了AzureChatGPT,这是专为企业打造的安全版ChatGPT。它的功能与ChatGPT基本一样,但最大的亮点是支持企业私有化部署,企业可以完全掌控数据和网络通信,避免数据泄露给外部机构。AzureChatGPT内置数据隐私保护功能,不会与OpenAI分享任何数据。企业可以通过自有数据对AzureChatGPT进行微调,更好地适应实际业务需求。站长网2023-08-19 15:25:320001德国杂志解雇使用 AI 生成内容的编辑并向舒马赫家人道歉
德国杂志《DieAktuelle》日前刊登了一篇用人工智能生成的迈克尔·舒马赫采访,这篇采访引起了公众的强烈不满,舒马赫的家人表示将对该杂志采取法律行动。现在,该杂志的出版商FunkeMediaGroup已解雇了该篇文章的编辑,并向舒马赫家族道歉。FunkeMediaGroup的MDBiancaPohlmann在其网站上发表声明,谴责了该篇采访的出版。站长网2023-04-23 09:53:4900002023,MCN机构内容生产有了哪些新趋势?
今年4月,由克劳锐出品的《2022中国内容机构(MCN)行业发展研究白皮书》重磅发布,白皮书在引发业内热议的同时也为中国MCN机构的发展给出了可能的方向。面对着当前上下游诉求升级、同行业竞争加剧、机构盈利难度攀升的现实局面,MCN机构需要直面自己的“迭代期”,并基于各自的基因与能力,在不同的赛道开始“自我竞速”。0000红魔8S Pro系列手机发布 首发骁龙8Gen2领先版售价3999元起
今日下午,红魔游戏手机正式发布了红魔8SPro系列手机,分为红魔8SPro版以及红魔8SPro版,售价3999元起,全平台7月5日16:30开启预约、预售,7月11号上午十点正式开售。该手机全球首发骁龙8Gen2领先版(3.36GHz),安兔兔跑分高达1713658分。左右边框为1.48mm,上边框为1.68mm,下巴为2.28mm,屏占比高达93.7%。站长网2023-07-05 19:09:100000微信官方回应朋友圈横线问题:仅代表微信版本不同
近日,微信朋友圈中的长线和短线现象一度成为网友们热议的焦点,相关话题更是冲上了热搜榜。有观点称,朋友圈显示一条横线意味着被对方屏蔽,而长线和短线的区别则代表了不同的社交状态。今天,“微信派”视频号发布了官方视频,为这一话题进行了澄清。据微信官方解释,朋友圈中的长线和短线其实并没有特殊的含义,它们仅仅代表了微信版本的不同。在安装了最新版本的微信后,用户会发现朋友圈统一显示为“短线”。站长网2024-03-23 00:22:290000