郭明錤:英伟达发布 L40S 可能会有新赢家 利好 AI 边缘计算
站长网2023-08-14 17:55:240阅
知名分析师郭明錤在推特发文称,英伟达发布 L40S,可能会使得投资人对 AI 投资的关注重点转移到 AI 边缘运算,潜在的受惠者包括戴尔、华硕等。
据了解,英伟达日前发布了 L40S GPU,这款计算加速显卡可以用于图形渲染、人工智能大模型训练和推理、三维设计和视频处理等用途,AI 运算性能高于 A100 GPU。由于这款加速卡不支持 NVLink,且没有选择采用 HBM 显存,而是采用 GDDR6 ECC 显存,因此 L40S 相比 A100、H100 更加适用于边缘运算。
英伟达官方表示,英伟达 L40S GPU 将在今年秋季上市。对于具有数十亿个参数和多种数据模式(文本、视频)的复杂 AI 工作负载,L40S 的生成式 AI 推理性能比 A100 高 1.2 倍,训练性能高 1.7 倍。
0000
评论列表
共(0)条相关推荐
视觉语言模型BLIVA:让AI更擅长阅读图像中的文本 懂得看路牌和食品包装
文章概要:1.BLIVA是一种视觉语言模型,擅长读取图像中的文本。2.BLIVA结合了InstructBLIP的学习查询嵌入和LLaVA的编码修补嵌入。3.BLIVA在多个数据集上表现优异,可用于识别路牌、食品包装等场景。BLIVA是一种视觉语言模型,擅长读取图像中的文本,使其在许多行业的现实场景和应用中发挥作用。站长网2023-08-28 11:38:200000Meta 推出 LayerSkip:提升大语言模型推理速度
Meta公司最新发布了LayerSkip,这是一款端到端的解决方案,专门设计用于提升大型语言模型(LLM)的推理速度。这一技术在不同规模的Llama模型上经过了广泛的训练实验,并在多个任务上展现了显著的性能提升。LayerSkip的主要成就包括:CNN/DM文档摘要任务:在这一任务上,LayerSkip将推理速度提升了2.16倍,显著提高了文档处理的效率。站长网2024-04-28 17:54:520000未来 AI 服务器需求增加:DDR5 内存有望进入快速增长期
站长之家(ChinaZ.com)10月7日消息:在经历了一年多的DRAM市场调整后,三星计划在今年第四季度增加DDR5内存的生产,以应对可能在明年出现的DDR5订单需求激增。像三星和SK海力士等主要DRAM制造商仍在削减生产能力,但这些削减主要针对DDR4规格。站长网2023-10-07 15:11:580000一加Ace 3V采用旗舰级天工散热系统:稳坐中端机“散热冠军”宝座
快科技3月19日消息,一加宣布,一加Ace3V将搭载旗舰级天工散热系统,挑战中端手机的散热极限,官方称之为中端手机散热冠军”。据了解,一加Ace3V采用9140mm的万级VC散热面积,刷新中端手机散热面积纪录。同时,一加持续优化散热材料和结构,保障出色的性能表现,确保手机轻松释放强大性能。站长网2024-03-19 21:47:290000vivo X100标准版参数曝光 内存影像全面升级
vivo于近日宣布,将于11月13日在北京发布X100系列新品。据博主@数码闲聊站爆料,vivoX100标准版将首发搭载联发科最新的旗舰处理芯片天玑9300,同时,vivoX100将升级内存,采用16GBLPDDR5T运存,并增强防水性能,支持IP68。站长网2023-11-02 10:40:560000