ChatGPT 背后的大型语言模型 GPT-4 需要大量的冷却水: 5 到 50 个问题就需消耗 500 毫升的水
站长之家(ChinaZ.com) 9月11日消息:建设像 ChatGPT 这样的人工智能产品的成本往往难以衡量。
但微软支持的 OpenAI 的技术需要大量的水,这些水来自爱荷华州中部的 Raccoon 和 Des Moines 河流域,用于冷却一台强大的超级计算机,以帮助教导其人工智能系统如何模仿人类写作。
在竞相利用生成式人工智能的狂潮中,包括微软、OpenAI 和谷歌在内的领先科技开发者承认,对其人工智能工具的不断增长需求带来了巨大的成本,从昂贵的半导体到用水量的增加都有所涉及。
但他们通常对具体情况保持保密。在微软一位高级高管在演讲中表示「GPT-4 实际上是在得梅因西边的玉米田旁边制造出来的」之前,很少有人知道爱荷华州是 OpenAI 最先进的大型语言模型 GPT-4 的诞生地。
构建大型语言模型需要分析大量人类写作文本的模式。所有这些计算需要大量电力,并产生大量热量。为了在炎热的天气里保持冷却,数据中心需要泵入水——通常是泵入仓库大小的建筑外的冷却塔。
根据微软最新的环境报告,其全球用水量从 2021 年增长了 34% 至 2022 年(达到近 17 亿加仑,相当于 2500 多个奥林匹克游泳池的水量),与以前的年份相比大幅增加,外部研究人员将其与其人工智能研究联系起来。
加州大学河滨分校的研究员Shaolei Ren 表示:「可以说,增长的大部分原因是由于人工智能,包括其在生成式人工智能和与 OpenAI 的合作方面的巨大投资。」该团队估计,ChatGPT 在今年晚些时候将会发表的一篇论文中,每次你向它提问一系列介于 5 到 50 个提示或问题之间,它就会消耗 500 毫升的水(接近于一个 16 盎司水瓶的水量)。这个范围取决于服务器的位置和季节。这个估算包括公司没有测量的间接用水,比如用于冷却供电数据中心的发电厂。
Ren 说:「大多数人都不知道 ChatGPT 背后的资源使用情况。」「如果你不知道资源的使用情况,那就无法帮助我们节约资源。」
谷歌在同一时期报告其用水量增长了 20%,这也主要归因于其人工智能工作。谷歌的用水增长不是均匀的——在俄勒冈州,它的用水量一直稳定,而且引起了公众的注意,而在拉斯维加斯以外的地方则翻了一番。在爱荷华州,谷歌对 Council Bluffs 数据中心的需求最大,输送了更多的水。
微软上周在一份声明中表示,它正在进行研究,以衡量人工智能的能源和碳足迹,「同时致力于使大型系统在训练和应用方面更加高效。」
微软公司的声明说:「我们将继续监控我们的排放,加速进展,增加使用清洁能源来供电数据中心,购买可再生能源以及其他努力,以实现我们在 2030 年之前成为负碳、水资源正增、零废弃的可持续发展目标。」
OpenAI 在自己的声明中也重申了这些评论,表示正在「认真思考」如何最好地利用计算能力。「我们认识到训练大型模型可能会消耗大量能源和水资源」,并努力提高效率,它表示。
微软于 2019 年首次投资总部位于旧金山的 OpenAI 10 亿美元,比这家初创公司推出 ChatGPT 和引发全球对人工智能进展的着迷早两年多。作为交易的一部分,这家软件巨头将提供训练人工智能模型所需的计算能力。
为了至少完成部分工作,这两家公司寻找了爱荷华州西得梅因,这个拥有 6.8 万人口的城市是微软在过去十多年中一直在积累数据中心,以为其云计算服务供电。该公司的第四和第五个数据中心计划于今年晚些时候在那里开业。
「他们正在尽力建设,」微软进驻该市时担任该市市长的 Steve Gaer 说。Gaer 表示,微软公司被城市建设公共基础设施的承诺所吸引,并通过支持该投资的税款提供了一笔「令人震惊」的金额。但他补充说:「但是,你知道,他们对他们在那里做什么相当保密。」
微软于 2020 年首次宣布,正在为 OpenAI 开发世界上最强大的超级计算机之一,当时拒绝向媒体透露其位置,但将其描述为一个具有超过 28.5 万个传统半导体核心和 1 万个图形处理器(这种芯片已经对人工智能工作负荷变得至关重要)的「单一系统」。
专家们表示,在一个地方「预先训练」人工智能模型是有意义的,因为需要在计算核心之间传输大量数据。
直到 2022 年 5 月底,微软总裁 Brad Smith 才透露,微软已经在爱荷华州建立了其「先进的 AI 超级计算数据中心」,专门用于让 OpenAI 训练成其第四代模型 GPT-4。该模型现在为 ChatGPT 的高级版本和微软的一些产品提供支持,并加速了有关限制人工智能社会风险的讨论。
「它是由加州的这些杰出工程师设计的,但它实际上是在爱荷华制造的,」Smith 说。
在某种程度上,与微软在亚利桑那州的数据中心相比,西得梅因是一个相对高效的地方来训练强大的人工智能系统,特别是考虑到为了满足相同的计算需求,亚利桑那州的数据中心消耗了更多的水。
「所以,如果你正在微软内部开发人工智能模型,那么你应该将你的训练安排在爱荷华州,而不是在亚利桑那州,」Ren 说。「在训练方面没有区别。但在用水或能源消耗方面,有很大的差异。」
在大部分时间里,爱荷华州的天气足够凉爽,以至于微软可以使用外部空气来保持超级计算机正常运行,并排出建筑物内的热量。该公司在一份公开文件中表示,只有当温度超过 29.3 摄氏度(约 85 华氏度)时,它才会取水。
尽管如此,这仍然可以是大量的水,特别是在夏天。根据西得梅因市自来水公司的数据,在 2022 年 7 月,即 OpenAI 宣布完成对 GPT-4 的训练之前的一个月,微软向其爱荷华数据中心集群抽取了约 1150 万加仑的水。这占了该地区用水总量的约 6%,该地区还向市民提供饮用水。
2022 年,西得梅因自来水公司的一份文件说,该公司和市政府将「只考虑未来数据中心项目」,如果这些项目能够「证明并实施技术,显著减少当前水峰值使用水平」,以保护居民和其他商业需求的水供应。
微软上周四表示,正在直接与自来水公司合作,以解决其反馈问题。在一份书面声明中,自来水公司表示,该公司一直是一个良好的合作伙伴,并一直与当地官员合作,以减少其用水量,同时仍然满足其需求。
AI孙燕姿爆火,谁先坐不住了?
最近,“AI孙燕姿”成了B站网红,B站上流传的各种“孙燕姿”翻唱其他歌手的视频,点击量往往超过了十万,甚至有些突破百万。在一个又一个视频里,印着孙燕姿头像的光盘缓缓旋转,由其声音翻唱的各种经典或流行歌曲包括周杰伦的《发如雪》《爱在西元前》、刘欢的《好汉歌》等等。站长网2023-05-22 16:08:110003荣耀回应IPO传闻:四季度进行股份制改革 适时启动IPO
快科技8月5日消息,自从荣耀三年前独立以来,时不时就有IPO的传闻。对此,荣耀今天正式回应称,始终坚持公开透明的发展原则,也会持续多元化股权结构。荣耀计划在今年四季度启动相应的股份制改革,并在之后适时启动IPO流程,并且在相应的过程中会批露相关财务数据。另外,从2021年1月1日至今,荣耀没有获得过深圳市政府超出对通常企业的支持”。站长网2024-08-05 16:46:150000OpenAI非营利部门去年净收入不足4.5万美元
划重点:1.📉OpenAI的非营利部门在最新的美国税务文件中报告的收入仅为44,485美元,尽管其盈利业务可能从ChatGPT中赚取数百万美元。2.💰尽管非营利部门净收入有限,但OpenAI的盈利部门可能估值高达900亿美元,而微软最近投资了100亿美元,持有其49%的股份。0000雷军回应董明珠:从未说过自己空调第一 继续向格力学习
快科技7月19日消息,今晚雷军年度演讲中,雷军在发布新空调时回应了董明珠呛声小米空调销量第一”的言论。雷军表示,我们从未说过自己空调第一,米家空调目前位居中国第四,距离格力空调还有较大差距,继续向格力学习。近日,格力电器2023年年度股东大会在公司珠海总部举行。针对近期网上有一些文章和短视频称小米空调销量超过了格力空调”的说法,董明珠进行了公开回应。0000苹果迈入AI时代!曝国行版iPhone 16 AI功能由百度提供
快科技3月23日消息,据媒体报道,苹果与百度公司已达成合作协议,百度将为iPhone内置的生成式人工智能大模型提供技术支持。报道指出,苹果生成式人工智能大模型的合作伙伴包括谷歌、百度、OpenAI等公司。国行版iPhone的AI功能将由百度提供,而其他市场的AI功能则由谷歌Gemini和OpenAIChatGPT提供支持。0000