ChatGPT 每天运行成本 70 万美元 微软自研 AI 芯片试图让它变得更便宜
站长网2023-04-21 10:03:582阅
人工智能目前非常热门,每天有数百万用户使用 ChatGPT。由于需求如此之高,因此运营 ChatGPT 需要的费用也很高。研究公司 SemiAnalysis 的首席分析师 Dylan Patel 估计,ChatGPT 目前每天要耗费 OpenAI 公司 70 万美元,或每个问题回复耗费 36 美分。

这是一笔不小的开支,而且 AI 公司,包括微软,需要从英伟达等公司大量购买 GPU 以帮助维护其 AI 服务,因为需求不断增加。行业分析师估计,OpenAI 可能需要在今年订购 3 万个额外的英伟达 GPU 来支持其商业努力。
构建自己的 AI 芯片可以帮助降低成本,这似乎正是微软正在做的事情。微软自己的 AI 芯片代号为「Athena 雅典娜」。据报道,它已经有了足够的优势,并已在微软内部的某些团队进行了测试。该公司计划在明年将其 AI 芯片分配给其 Azure AI 服务。
行业内部人士表示,他们不指望微软直接取代 英伟达,而是减少对其的依赖。由于 ChatGPT 运行在 Azure 服务上,降低成本将有助于 OpenAI 以更便宜的费用运行 ChatGPT,以及其他选择 Azure 作为主机的 AI 服务。
在谷歌推出名为 Bard 的 AI 产品之后,微软在过去几个月里一直在积极推动人工智能。最近的报道称,一些谷歌员工对 Bard 没有信心,觉得谷歌为了对抗微软的 Bing AI 而匆忙面向市场推出了该产品。
0002
评论列表
共(0)条相关推荐
小米澎湃OS2 Beta版即日起开始推送:小米14等六款机型尝鲜
快科技11月1日消息,小米官方宣布,小米澎湃OS2Beta版即日起开始推送!首批更新将面向已通过Beta版招募的用户,涵盖以下机型:-小米14Ultra-小米14Pro钛金属版(卫星通讯)-小米14Pro-小米14-RedmiK70至尊版-小米平板6SPro12.4小米表示,更多机型的招募正在进行中,敬请期待!站长网2024-11-03 09:20:210000NVIDIA 高管:银行必须为人工智能热潮做好准备
全球芯片制造商NVIDIA的金融服务行业全球副总裁MalcomDeMayo表示,银行业需要为人工智能(AI)的蓬勃发展做好准备。虽然生成式AI具有潜力,但这种新一代的AI在当前银行的计算基础设施上运行效果不佳。DeMayo表示,十多年来,NVIDIA一直在人工智能领域进行大量投资,金融公司在采用创新技术方面也“并不陌生”。站长网2023-07-26 14:55:120001微软 Windows Terminal 正在获得智能 AI 功能:由 GitHub Copilot 加持的自然语言体验
微软正在将自然语言AI聊天机器人集成到其WindowsTerminal应用程序中。即将推出的GitHubCopilot聊天体验将作为微软进一步实验向Windows功能添加AI功能的一部分,可供WindowsTerminal用户使用。站长网2023-05-24 11:12:160000马斯克表示 Twitter (X) 将添加基于人工智能的语义搜索功能
站长之家(ChinaZ.com)8月8日消息:Twitter(或X公司)正在为重大搜索革新做准备。埃隆·马斯克今天宣布,X将添加基于人工智能的语义搜索功能,以提高用户在平台上查找相关内容的能力。语义搜索有时被称为上下文搜索,旨在理解搜索查询背后的意图,而不仅仅是匹配关键词。这使得搜索引擎能够返回与上下文相关的推文和其他内容,即使它们不包含完全相同的关键词。站长网2023-08-08 11:08:490000Windows 11 新增基于AI的复制和粘贴功能
划重点:⭐微软在Windows11中引入了新的高级粘贴功能,利用AI技术实现剪贴板内容的即时转换。⭐通过PowerToys的AdvancedPaste功能,用户可以将剪贴内容转换为纯文本、Markdown、JSON等格式,甚至使用OpenAI进行摘要、翻译、生成代码等操作。站长网2024-05-22 18:43:110000