台积电、英伟达与供应商正在合作开发 AI GPU 浸没式液冷系统
站长网2023-07-24 22:17:311阅
站长之家(ChinaZ.com) 7月24日消息:台积电在推进 AI 服务器应用的同时,也在同步推进散热技术。AI 供应链消息称,高力(热处理技术供应商)正积极与台积电与英伟达合作开发 AI GPU 浸没式液冷系统。
据 UDN 消息,台积电之前引入了「浸润式冷却高效运算电脑机房」,最近又传出与高力、技嘉、双鸿等厂商合作,继续在高速运算散热方面精进。同时,高力还积极与台积电和英伟达合作开发 AI GPU 浸没式系统,引发了新一波散热革命。
AI 供应链消息称,业界分析认为,由于 AI 服务器运算速度快,产生的热能和能耗更大,目前主流散热技术难以满足使用需求。由于 CPU 和 GPU 的平均功耗从 300W 跃升至 1000W 以上,散热比以往更困难,液冷是当前最有效且最先进的散热解决方案。
液冷散热方案分为两种。第一种是通过水循环方式,通过泵和管线带走热能。另一种是浸没式技术,将热源(例如芯片)放置在不导电液体中,以此带走热能。
台积电已将 CPU、GPU 和 AI 加速器等用于执行训练和推论功能的服务器芯片,列为 AI 相关收入。台积电先前提到,AI 将进入大众化时代,同时敞开无限可能与技术商机之门。
0001
评论列表
共(0)条相关推荐
英伟达仅在第三季度就售出了 50 万个 H100 AI GPU:Meta 和微软是最大买家
Nvidia最近一个季度的收入显著增长,主要归功于其数据中心产品的销售。公司年度总收入增长超过200%,在180亿美元的收益中,有145亿美元来自其数据中心产品。据市场分析公司Omdia最新发布的销售估计数据显示,Nvidia在上个季度仅凭借其旗舰H100加速器,就售出了超过50万个GPU。站长网2023-11-29 11:12:270000理想MEGA成全球风阻系数最低MPV 风阻系数仅为0.215
在今天的理想汽车2024春季发布会上,李想自豪地宣布,理想MEGA的实测风阻系数仅为0.215,这一成绩使其成为全球风阻系数最低的MPV。李想进一步解释道,风阻系数对汽车的续航和能耗有着直接的影响。当车辆以80km/h的速度行驶时,整车能耗中有60%-70%是用于克服风阻的,而且随着速度的增加,空气阻力带来的能量损耗也会相应增大。站长网2024-03-01 16:30:290000Headless语言模型:通过捆绑嵌入提高模型的训练速度
要点:1.提出了一种新的预训练方法,称为无预测头语言模型,它移除了对词汇空间概率分布的预测需求,而是关注用对比方式重构表示。2.该方法只需要改变目标函数,可以直接应用于经典语言模型预训练目标。3.在单语和多语编码器以及单语解码器中实验表明,Headless语言模型预训练相比经典方法在给定运算量下表现更好,计算效率更高。站长网2023-09-20 11:06:290002TSalesforce 领投! Together AI 最新融资估值飙升至12.5亿美元
据路透社报道,TogetherAI宣布在最新一轮融资中筹集了1.06亿美元,由SalesforceVentures领投,使该公司估值达到12.5亿美元。此次融资还得到了CoatueManagement、LuxCapital和EmergenceCapital等现有投资者的支持。图源备注:图片由AI生成,图片授权服务商Midjourney站长网2024-03-14 14:40:3900002023百度十大科技前沿发明公布 超70%涉及大模型和重构创新
近日,百度公布了“2023百度十大科技前沿发明”,十大前沿发明中,超过70%涉及大模型和重构创新。据悉,发布的十大科技前沿发明涉及大模型、基于大模型的端到端搜索、飞桨、AI芯片、生成式检索、内容生成推荐技术、自动驾驶决策系统、生物计算大模型、高性能量子芯片。百度表示,随着越来越多的大模型产品陆续上线,我国生成式人工智能发展也将从“拼大模型参数”阶段步入“拼原生应用、拼产业落地”阶段。站长网2023-09-14 19:43:090000