英伟达 L40S GPU 将于今秋上市:AI 推理性能比 A100 高 1.2 倍
站长网2023-08-10 17:28:391阅
英伟达日前发布了全新的 NVIDIA L40S GPU,以及搭载该加速卡的 NVIDIA OVX 服务器系统。

据介绍,这款全新的 GPU 和 OVX 服务器适用于人工智能大模型训练和推理、三维设计和可视化、视频处理、工业数字化等多种用途。它们能够增强生成式 AI、图形和视频处理能力,满足不断增长的算力需求。
L40S GPU 是 L40 的升级版本,配备 48GB GDDR6 ECC 显存。它基于 Ada Lovelace 架构,包含第四代 Tensor Core 和 FP8 转换引擎,运算速度是上一代 GPU 的 5 倍。但是需要注意的是,L40S 与上一代一样不支持 NVLink。
据官方表示,对于具有数十亿个参数和多种数据模式(文本、视频)的复杂 AI 工作负载,L40S 的生成式 AI 推理性能比 A100 高 1.2 倍,训练性能高 1.7 倍。
每台英伟达 OVX 服务器系统最多可搭载 8 个 L40S 加速卡。其中,CoreWeave 是首批提供 L40S 计算平台的云服务商之一。此外,英伟达还提供了多种软件,用于辅助 AI 模型训练、数据分析和生成式人工智能等应用。
据官方介绍,英伟达 L40S GPU 将在今年秋季上市。厂商包括华硕、戴尔、技嘉、HPE、联想、QCT 和美超微等,将很快推出搭载 L40S GPU 的 OVX 系统。这些服务器将有助于推动人工智能的发展和应用。
0001
评论列表
共(0)条相关推荐
俞敏洪回应借钱给董宇辉买房 称不会要董宇辉还买房钱
俞敏洪近日回应了董宇辉在北京买房的事情,确认是他借钱给董宇辉。在谈到这一事件时,俞敏洪表示:“宇辉在生活中需要一笔钱,当时公司确实不管从什么方面来说,都没有办法马上给他这笔费用。最后我和宇辉说我先给你这笔钱,并反复告诉他这笔钱就是给他的。”他还进一步解释,董宇辉是一个非常仁义的人,虽然现在他仍然希望能够还给他这笔钱,但俞敏洪明确表示,这笔钱是作为对他的支持,以后也不会要求他还。站长网2023-12-25 18:52:250000我在抖音做小说博主:用“同人文”引流,磕热播剧的新赛道?
抖音推文,突然间“席卷”了娱乐独角兽的生活。最近一次意识到它的炙手可热,是热播剧《为有暗香来》都去“模仿”着做宣传:当周也一本正经朗读着“我叫华浅,我回到了我的新婚之夜”,三位男主演配合着翻页、BGM,再加上左下角吸睛的跑酷游戏,让这条视频在抖音上收获了超50万的转评赞。站长网2023-11-14 13:57:070000AI哨所|打脸马斯克 微软首席科学官:AI需要是加速而不是暂停
凤凰网科技讯《AI哨所》北京时间5月3日消息,针对马斯克等上千人呼吁暂停先进人工智能(AI)开发一事,微软首席科学官埃里克霍维茨(EricHorvitz)给出了相反的观点。他认为,AI真正需要的是加速投入,而不是暂停。站长网2023-05-03 10:47:260000悄悄向淘宝宣战,抖音电商迎来了新的转折点
时代的洪流来得迅猛且凶残,迅猛是因为它可以让刚踏入社会的年轻人靠踩中风口,借趋势完成原始资本积累和阶级跃迁;凶残是因为它也可以无情的淹没那些固步自封不愿改变的老顽固,让保守成为代价和遗憾。小道消息,抖音电商内部分成ABC三个组,A组是品牌客户,B组是产业带,C组是商城。改革了针对商家运营的考核标准——以品牌商家为主的A组更关注GMV;以白牌商家为主的B组更看重订单量。站长网2023-07-12 15:39:570000华为:像GPT这样的基础大模型 昇腾AI已原生支持30多个
快科技8月12日消息,在昨日举办的2023东湖算力与大数据创新大会上,华为常务董事、企业BG总裁汪涛为大会致辞。汪涛在致辞中表示:人类社会正从数字时代走向智能时代。人工智能的加速发展,特别是大模型的出现,推动人工智能从感知理解走向内容生成,深刻影响社会与生活。从个人到行业,从生活到生产、从边缘到核心,人工智能正在重塑千行万业。0000