戴尔与英伟达合作,利用 AI 解决方案推动 AI 工厂发展
划重点:
- 戴尔正在与英伟达合作,扩展其 AI 工厂基础设施服务,增加对新软件和服务器解决方案的支持。
- Dell AI 工厂是专门为支持高强度 AI 工作负载而设计的基础设施服务。
- 戴尔的 AI 工厂现在还将支持液冷散热服务器,包括新的 PowerEdge XE9680L。
戴尔正在与英伟达合作,扩展其 AI 工厂基础设施服务,增加对新软件和服务器解决方案的支持。与其他基础设施服务不同,戴尔的 AI 工厂专门设计用于支持高强度的 AI 工作负载。
在今年的 GTC 大会上宣布的戴尔 AI 工厂现在已经扩展到包括对液冷散热服务器的支持,其中包括新的 PowerEdge XE9680L。在拉斯维加斯的 Dell Technologies World 上发布的 XE9680L 服务器采用了英伟达的旗舰型号 Blackwell GPU,共有8个。液冷散热设计旨在将热量远离硬件。
使用类似 XE9680L 这样的服务器来驱动 AI 工作负载的企业可以获得大规模 AI 部署的效率提升,因为液体冷却可以使 GPU 保持冷却,让其以更长时间的高峰运行。戴尔的新 XE9680L 服务器将在2024年下半年推出。
戴尔的 AI 工厂还搭载了英伟达提供的一项工具,可以帮助企业个性化和部署自己的数字助手。戴尔数字助手生成式 AI 解决方案允许用户在全面部署之前设计和测试定制的 AI 助手。通过戴尔的 AI 工厂,还可以使用 NativeEdge 这个编排平台自动化英伟达的 AI Enterprise 软件。企业可以使用 NativeEdge 来针对特定用例优化英伟达的 AI 软件。英伟达的一系列 AI 微服务,包括用于模型优化的 Nim,也可供用户根据行业特定应用进行自定义和微调。
英伟达的创始人兼首席执行官黄仁勋表示:“生成式 AI 需要一种新型的计算基础设施,即生产智能的 AI 工厂。” 他还表示:“英伟达和戴尔一起为全球各行业提供全套解决方案,包括计算、网络和软件,推动数字企业的副驾驶员、编码助手、虚拟客户服务代理和工业数字孪生兄弟等应用的发展。”
利用检索增强生成技术提升语言模型的能力
文章要点:检索增强生成(RAG)方法可以让语言模型访问最新的知识库,从而提高模型在实际业务中的应用能力。RAG方法相比重新训练模型或微调模型更为便宜和容易实现,同时也避免了数据集准备的工作量。使用Haystack等开源框架,结合句子嵌入技术和检索算法,可以构建强大的RAG-enabled语言模型,提供准确、实时的信息检索和问题回答能力。站长网2023-08-09 10:15:220000骁龙8s Gen3加持!vivo Pad3官宣
快科技6月25日消息,今天,vivo宣布vivoPad3将于6月28日开启预售。据悉,vivoPad3采用12.1英寸LCD屏,搭载骁龙8sGen3处理器,最高配备12GB内存、512GB存储,内置10000mAh电池,前置500万像素,后置800万像素。其中骁龙8sGen3搭载高通KryoCPU,采用了与骁龙8Gen3相同的架构,基于台积电4nm工艺制程打造。站长网2024-06-25 15:18:370000苹果客服回应iPhone15玻璃背板易碎:建议使用保护壳
随着越来越多的人购买iPhone15系列,新机的问题也日益显现。最近,一些用户反映,他们的iPhone15在没有任何磕碰的情况下后盖就碎裂了,这引起了网友们的广泛关注和讨论。随着这样的问题越来越多,苹果公司也注意到了这个现象,并给出了回应。苹果官方客服表示,iPhone15的后盖采用的是玻璃材质,这种材质确实存在易碎的风险。站长网2023-10-26 16:52:300000淘宝修改销量显示规则 由30天月销变为近365天已售件数
淘宝最近修改了销量显示规则,将原来的30天月销改为显示近365天累计已销售件数,并排除了不诚信经营和售中退款等销量。这一改变对于用户、商家和平台都是利好。首先,这个规则鼓励商家在平台上实现长久稳健经营,打造长远品牌。其次,对于新品和新商家,淘宝提供了更多机会,促进创新和原创保护。最后,这一规则激发了中小商家的活力,帮助他们获得持续激励。站长网2023-08-19 15:33:110000vivo自研蓝心大模型中文能力第一:已覆盖超2000万用户
快科技3月26日消息,vivo新品发布会今晚如期举行,为大家带来了vivoXFold3系列折叠屏手机。据官方介绍,vivo自研蓝心大模型发布五个月,在权威榜单中依然保持中文能力第一,vivo自研蓝心大模型在手机行业首个荣获信通院4星可信AI大模型”认证,已覆盖超2000万用户。vivo自研蓝心大模型经历了六年研究,覆盖了亿、百亿、千亿三个参数量级,全面覆盖了目前应用的核心场景。0001