TrendForce:新型 AI 加速芯片助力 HBM3 和 HBM3e 主导 2024 年市场
站长之家(ChinaZ.com) 8月2日消息:据市场研究公司 TrendForce 最新报告指出,2023 年 HBM(高带宽存储器)市场的主导产品是 HBM2e,该产品由英伟达 A100/A800、AMD MI200 以及大多数云服务提供商的自主开发的加速器芯片所采用。

随着对 AI 加速器芯片需求的不断发展,制造商计划在 2024 年推出新的 HBM3e 产品,预计 HBM3 和 HBM3e 将成为明年市场的主流。
HBM 各代之间的区别主要在于速度。在过渡到 HBM3 一代时,行业中出现了许多令人困惑的命名。TrendForce 明确指出,当前市场上所谓的 HBM3 应分为两个速度类别。一个类别是运行速度在 5.6 至 6.4 Gbps 之间的 HBM3,另一个类别是 8 Gbps 的 HBM3e,也被称为 HBM3P、HBM3A、HBM3 和 HBM3 Gen2 等多种名称。
三大主要制造商 SK 海力士、三星和美光在 HBM 的发展状态上存在差异。SK 海力士和三星从 HBM3 开始着手,该技术被用于英伟达的 H100/H800 和 AMD 的 MI300 系列产品中。预计这两家制造商还将在 2024 年第一季度开始提供 HBM3e 样品。与此同时,美光选择跳过 HBM3,直接开发 HBM3e。
HBM3e 将采用 24Gb 单芯片堆叠,并在 8 层(8Hi)基础上,单个 HBM3e 的容量将达到 24GB。预计这将应用于英伟达的 GB100,该产品将于 2025 年推出。因此,主要制造商预计将在 2024 年第一季度发布 HBM3e 样品,并计划在 2024 年下半年开始大规模生产。
云服务提供商正在开发自己的 AI 芯片,以减少对英伟达和 AMD 的依赖。在 AI 服务器加速器芯片领域,英伟达继续占据最高市场份额。然而,英伟达的 H100/H800 GPU 价格在每台 2 万至 2.5 万美元之间,再加上 AI 服务器的推荐配置需要 8 张卡,大大增加了总拥有成本。因此,虽然云服务提供商将继续从英伟达或 AMD 采购服务器 GPU,但同时计划开发自己的 AI 加速器芯片。
科技巨头谷歌和亚马逊 AWS 已在这一领域取得了重大进展,其中谷歌成立了 Tensor 处理单元(TPU),AWS 推出了 Trainium 和 Inferentia 芯片。此外,这两个行业领导者已经在努力开发下一代 AI 加速器,将采用 HBM3 或 HBM3e 技术。
此外,北美和中国的其他云服务提供商也正在进行相关验证,预示着未来几年 AI 加速器芯片市场可能出现激烈竞争。
AI视野:文心大模型4.0将发布;Stability AI发布移动端语言模型Stable LM3B;OpenAI举办ChatGPT应用开发大赛;视觉中国、华为云携手打造视觉大模型
🤖📈💻💡大模型动态文心大模型4.0将发布百度正在加速训练文心大模型4.0,并计划在10月17日的百度世界大会上发布。这一新版本将是文心大模型3.5的重要升级,重点提升基础模型能力,尤其在逻辑推理、代码和数学等方面取得显著进展。AiBase提要:🚀百度正快速推进文心大模型4.0的训练,预计将在10月17日的百度世界大会上发布。站长网2023-10-09 15:08:570000仅开播15天,单场GMV破百万,千粉新号如何靠节日营销完成冷启动?
“520”因谐音“我爱你”,近年来逐渐发展成比肩情人节和七夕节的浪漫经济IP。在这个“以爱为名”的营销节点中,我们看到#520约会穿搭可以安排啦、#硬核的520礼物等爆款话题层出不穷;“好物直播间”、“抖音520好礼季”等平台特色活动引领大众消费趋势;各大品牌也纷纷使出浑身解数,抢占用户心智。对此,飞瓜出品了“近期品牌电商趋势解读”,带你回顾本次520好礼季期间的亮点营销玩法,一起来看看吧!站长网2023-05-24 15:40:350000280万大模型中文开发者拿到最后一块拼图
2023年5月,微软CEO纳德拉抛出一个惊人数字,未来全球的开发者数量将会达到10亿。那时候Meta的Llama已经开源4个月,但一些国内的开发者发现,从小以英文语料喂养起来的Llama,对中文世界并不友好。这未来的“10亿”开发者里会有多少中文开发者,这个问题难以预测,但至少已经有755万人了。图源备注:图片由AI生成,图片授权服务商Midjourney站长网2023-12-01 17:47:5900012025,车企拼“造人”
“人形机器人,可能是车企下一波翻盘的机会。”2025年,车企往哪卷?车企给出的答案是人形机器人。英伟达创始人黄仁勋在2025CES全球消费电子展上,展示了由14款人形机器人组成的“军团”,其中一款来自中国车企小鹏汽车。A股人形机器人概念股随之涨翻天。2024年12月25日,理想汽车董事长李想在回应是否会做人形机器人时,表示概率上肯定是100%。0000小米平板6系列官宣4月18日发布
今日,小米平板登上热搜,小米官方表示,小米平板6系列将在4月18日19:00发布。根据爆料,小米平板6系列分为标准版和Pro版,标准版搭载高通骁龙870处理器,高配版搭载骁龙8处理器。屏幕均采用分辨率2880*1800的国产屏,支持120/144Hz高刷,支持67W有线闪充。此外,后置主摄升级到5000万像素。站长网2023-04-13 14:14:070000