深入了解 Meta 追赶 AI 的步伐:迟迟未用 GPU 导致人工智能落后对手
根据路透社查阅的一份日期为 9 月 20 日的公司备忘录,在 2022 年夏天即将结束时,Meta 公司首席执行官马克·扎克伯格召集他的高级副手,对公司的计算能力进行了 5 个小时的剖析,重点是其从事尖端人工智能工作的能力。
他们遇到了一个棘手的问题:根据该备忘录、公司声明和对 12 名熟悉这些变化的人的采访,尽管该社交媒体巨头在人工智能研究方面进行了高调投资,但在为其主要业务采用昂贵的人工智能友好型硬件和软件系统方面一直进展缓慢,阻碍了其与大规模创新保持同步的能力,即使它越来越依赖人工智能来支持其增长,这些人在讨论公司内部事务时是匿名发言。
「当涉及到为人工智能开发时,我们在工具、工作流程和流程方面有很大差距。我们需要在这方面进行大量投资,」由新任基础设施主管 Santosh Janardhan 撰写的备忘录说,该备忘录于 9 月发布在 Meta 的内部留言板上,现在是第一次被报道。
该备忘录指出,支持人工智能的工作需要 Meta「从根本上转变我们的物理基础设施设计、软件系统和提供稳定平台的方法」。
一年多来,Meta 公司一直在进行一项大规模的项目,将其人工智能基础设施提升到最佳状态。虽然 Meta 已经公开承认在人工智能硬件趋势方面「有些落后」,但是彻底改革的细节,包括产能紧缩、领导层变革和放弃人工智能芯片项目等,以前还没有被报道过。
Meta 发言人 Jon Carvill 被问及备忘录和公司重组信息时表示,公司「在创建和部署规模化现代化基础设施方面拥有良好的记录,并在人工智能研究和工程方面有深厚的专业知识。」
「我们有信心继续扩大我们基础设施的能力,以满足我们的近期和长期需求,因为我们为我们的应用和消费者产品系列带来了新的人工智能驱动的体验,」Carvill 说。他拒绝评论 Meta 是否放弃了其人工智能芯片。
根据 Meta 公司披露的信息,这次大修使 Meta 公司的资本支出每季度激增约 40 亿美元——几乎是截至 2021 年支出的两倍—并导致其暂停或取消之前计划在四个地方建设的数据中心。
这些投资恰逢 Meta 公司面临严重的财务紧缩期,该公司自 11 月以来一直在裁员,裁员规模是网络泡沫破灭以来所没有的。
与此同时,微软支持的 OpenAI 的 ChatGPT 在 11 月 30 日首次亮相后,迅速成为历史上增长最快的消费者应用,引发了科技巨头之间的军备竞赛,以发布使用所谓的生成式人工智能的产品。这种技术不仅能够像其他 AI 一样识别数据模式,而且还能根据提示创建类似于人类的书面和视觉内容。
据五位消息人士称,生成式 AI 需要大量的计算能力,加剧了 Meta 的计算资源紧迫性。这五位消息人士表示,这些问题的一个关键源头可以追溯到 Meta 对图形处理器 (GPU) 在 AI 工作中的迟缓接受。
GPU 芯片非常适合人工智能处理,因为它们可以同时执行大量的任务,缩短处理数十亿条数据所需的时间。但是,GPU 比其他芯片更昂贵,芯片制造商 Nvidia 控制着市场的 80%,并保持着支配性的领先优势。
在去年之前,Meta 在很大程度上使用该公司的商品中央处理器(CPU)运行 AI 工作负载,这是计算世界的主力芯片,几十年来一直充斥着数据中心,但 AI 工作的表现很差。
根据其中两个消息来源,该公司还开始使用其内部设计的定制芯片进行推理计算,这是一个人工智能过程,在这个过程中,在海量数据上训练的算法会做出判断并对提示产生反应。
这两位人士说,到 2021 年,这种双管齐下的方法被证明比围绕 GPU 构建的方法更慢,效率更低,而 GPU 在运行不同类型的模型方面也比 Meta 的芯片更灵活。
在扎克伯格将公司转向元宇宙时,四位消息人士表示,容量压力减缓了其运用 AI 响应威胁的能力,如社交媒体竞争对手 TikTok 的崛起和苹果主导的广告隐私更改。
在退出该公司之前的一次董事会会议上,前 Meta 董事会成员彼得·蒂尔没有说明原因而辞职,并告诉扎克伯格和他的高管,他们在关注元宇宙的同时对 Meta 的核心社交媒体业务过于自满和忽视了 TikTok 的挑战,据两位熟悉交流的人士透露。
经过一番努力,Meta 开始重新规划其数据中心以适应正在到来的 GPU,这些芯片比 CPU 更加耗电且发热更多,必须密集地聚集在一起,并采用专门的网络连接。
Meta 接下来开始重新调整其人工智能部门,任命了两位新的工程主管,包括九月备忘录的作者 Janardhan。
在那几个月的动乱中,超过十几位高管离开了 Meta,这几乎更改了人工智能基础设施的领导层。
在扩大 GPU 容量的同时,Meta 目前尚无多少可供竞争对手如微软和谷歌推广商业化生成式 AI 产品的成果。
首席财务官 Susan Li 承认,Meta 目前并没有将其当前的计算能力用于生成式工作,称「我们所有的人工智能容量基本都用于广告、feeds 和 Reels」,这是类似于 TikTok 的短视频格式,深受年轻用户的喜爱。
四位消息人士表示,Meta 直到 11 月推出 ChatGPT 之后才开始优先考虑构建生成式 AI 产品。尽管其研究实验室 FAIR 在 2021 年底以来一直在发布该技术的原型,但公司并未专注于将其公认的研究转化为产品。
随着投资者的兴趣飙升,这种情况正在改变。扎克伯格在 2 月份宣布了一个新的高层生成式 AI 团队,他表示这将「快速推动」该公司在该领域的工作。
首席技术官安德鲁·博斯沃斯也在本月表示,生成式 AI 是他和扎克伯格花费时间最多的领域,预测 Meta 将在今年推出产品。
两位熟悉新团队的人士表示,该团队的工作处于早期阶段,主要集中在建立基础模型,这是一个核心程序,稍后可以微调和适应不同的产品。
帮你写“诉状”的可能是AI律师
长江日报讯(记者李佳通讯员涂兴佩)人工智能写文章、画画,还能写“诉状”。近日,在四川某基层法院,导诉员介绍,有半数咨询者最后通过“起诉状辅助生成系统”完成诉讼文件的撰写。0000Unity 6 将于 2024 年推出,配备人工智能工具和更强大的多人游戏技术
全球游戏引擎和变现平台Unity宣布,其Unity6平台将于2024年推出,携带AI创新和平台更新。图片来自Unity在其年度开发者大会Unite上,这家专注于打造和培育实时3D内容的公司揭露了一系列尖端的AI创新和平台升级。这些新引入的功能旨在增强游戏开发者实现他们愿景和管理成功游戏的方式。站长网2023-11-17 09:55:050000EasyDiffusion Online:一款免费的AI绘画工具
EasyDiffusionOnline是一款强大的AI图像生成工具,旨在帮助用户释放创造力。用户可以通过该平台免费使用图像生成器和提示生成器,将文字描述快速转化为视觉图像,实现他们的创意想法。该平台提供了一个庞大的创作社区,拥有超过15000名活跃创作者和120万张已创建的图像。用户可以与这个充满创意的社区一起探索各种创作可能性,获取灵感并分享自己的作品。站长网2024-03-11 10:10:120000小红书上线“此刻”功能 可通过AIGC能力为纯文字配图
小红书最近推出了一项新功能“此刻”,用户可以通过该功能直接输入文字,算法会根据输入的文本内容生成一张相应的图片,用户也可以在画板上手绘涂鸦,并使用AI技术对涂鸦进行美化后发布。据悉,这一功能是基于AIGC技术开发的,已经全面上线供所有用户使用。站长网2023-07-25 16:34:390000又一个妙鸭挑战者出现!木目AI新用户可白嫖25张
要点:AI写真APP妙鸭出现竞争者,可免费试用生成25张写真图。新工具名为木目AI,通过上传照片训练模型,支持文本和图片两种生成方式。木目AI背后公司为ArtisseInteractive,公司业务分为ArtisseGaming和ArtisseAI两大板块。最近,一款名为木目AI的AI绘图工具引发关注,它被称为9块9「写真」妙鸭的竞争者,注册可免费白嫖生成25张写真图。站长网2023-08-28 16:14:250003