谷歌下一代大模型Gemini,算力已达GPT-4的5倍!
站长网2023-08-29 16:31:080阅
要点:
谷歌的下一代大模型Gemini的训练算力已达GPT-4的5倍。
谷歌拥有大量TPU芯片,其中的TPUv5数量已超过OpenAI等公司总GPU数。
Gemini正在TPU上快速迭代,表现优于GPT-4,有望成为新一代顶级大模型。
知名的SemiAnalysis最近再次爆料,称谷歌大模型Gemini的训练规模已达GPT-4的5倍。Gemini初代版本可能是在TPUv4上训练,使用14个pod,训练FLOPS达1e26,而GPT-4的FLOPS仅2e25左右。更令人震惊的是,Gemini的下一代版本已经开始在TPUv5上训练,算力高达1e26FLOPS,是GPT-4的5倍。
谷歌拥有大量自主研发的TPU芯片,其中TPUv5的数量已经超过了OpenAI、Meta、CoreWeave等公司总GPU数量。相比GPU,单片TPUv5性能略弱,但谷歌可以利用庞大基础设施发挥规模效应。此外,Gemini在模型架构上也较GPT-4优秀,如拥有增强的多模态能力。
Gemini一直在TPU上快速迭代,先是TPUv4,现已升级到TPUv5,性能表现也优于GPT-4。OpenAI的算力只是谷歌的一小部分,Gemini有望成为新一代顶级大模型,在与OpenAI的竞争中占据优势。总体来看,谷歌已经正式介入大模型竞赛,凭借雄厚算力优势全面碾压OpenAI。这场竞争才刚刚开始,未来几个月将见证谷歌的胜利。
0000
评论列表
共(0)条相关推荐
360集团旗下应用完成华为鸿蒙原生核心版本开发
360集团宣布,基于HarmonyOSNEXT,已完成旗下360浏览器、360天气大师等应用鸿蒙原生核心版本开发。华为表示,作为全国领先的互联网和安全服务提供商,360在鸿蒙原生应用开发的道路上快速前行,将多个优质应用带入鸿蒙生态版图,积极支持鸿蒙生态的繁荣发展。360多个应用更流畅、更智能、更安全的使用体验,值得期待!站长网2023-12-27 16:02:340001英伟达推出 NeMo Guardrails 帮助企业指导和控制 AI 回应
生成式人工智能和大型语言模型(LLMs)的一个主要挑战是用户可能得到不适当或不准确的回应的风险。英伟达非常了解保护组织及其用户的需要,日前它发布了新的NeMoGuardrails开源框架以帮助解决这一挑战。NeMoGuardrails项目提供了一种方法,使为不同用例(包括聊天机器人)构建和部署LLM的组织能够确保响应保持在正轨上。站长网2023-04-27 09:54:250001百度百家号宣布百+加热功能升级 可一键跳转至百+官网
百度百家号宣布,百将于1月8日完成加热功能的全面升级。据悉,百是百度的内容加热和助推工具,可以帮助创作者和品牌主将内容推荐给更多潜在用户,提升作品热度和营销转化能力。它依托于百度的超大用户规模,通过智能推荐和定向投放的方式,展示加热后的图文、视频、直播等内容。站长网2024-01-05 16:39:220000AI识别出地震先兆信号?机器学习发现数据神秘关联,人类有望预测地震
【新智元导读】10年前,「地震预测」在圈内还是如尼斯湖水怪一般的奇谈怪论,但机器学习的发展,已经让「准确预测地震」的可能性,又往前迈进了一步。最近一段时间,世界各地地震频发。就在1月1日,日本突发里氏7.6级的地震,随后陆续有灾情传出。据统计,目前至少已有62人死亡。而下面这个问题,也再一次被提起:人类究竟什么时候能及时预测地震呢?别急,已经在进步了。0000Google在Play Store中推出搜索栏广告 以进一步推广推荐内容
据国外媒体报道,Google在PlayStore中引入搜索栏广告,以进一步推广推荐内容。这一变化包含在Google4月份的系统更新中,其中引入了少量的改进。PlayStore充满了推荐内容,而Google希望通过在搜索栏中引入这些推荐内容来加强它们的推广。根据Google最近的系统更新日志,现在的搜索结果将包括“具有限时活动的应用建议以及赞助建议”。站长网2023-05-08 14:43:380000