英伟达发布AI Enterprise5.0,助力企业生成式AI开发
划重点:
🚀 英伟达发布AIEnterprise5.0,包括微服务和软件容器,用于生成式AI应用部署和加速计算。
🔍 NVIDIA AI Enterprise5.0涵盖广泛的微服务,包括NVIDIA NIM和NVIDIA CUOpt,优化AI模型推理并支持GPU加速。
💼 AI Enterprise5.0可帮助用户从安全、可投入生产且性能优化的软件中受益,可在数据中心、云端、工作站或网络边缘部署。
英伟达正式发布了AI Enterprise5.0,这是一项旨在帮助企业加速生成式人工智能(AI)开发的重要产品。AI Enterprise5.0包含了英伟达微服务和可下载的软件容器,这些组件可用于部署生成式AI应用程序和加速计算。值得一提的是,这一产品已经被Uber等知名客户所采用。

随着开发人员转向微服务作为构建现代企业应用程序的有效方式,NVIDIA AI Enterprise5.0提供了广泛的微服务。其中包括NVIDIA NIM和NVIDIA CUOpt,这些微服务针对生产中部署AI模型进行了优化,并且支持GPU加速,为用户提供了更高效的推理过程。NVIDIA推理软件,包括Triton Inference Server、TensorRT和TensorRT-LLM,为NIM提供了支持,从而将部署时间从几周缩短到几分钟。这些微服务不仅提供了行业标准的安全性和可管理性,还与企业级管理工具兼容,为企业带来了更便捷的部署体验。
此外,NVIDIA CUOpt作为一种GPU加速的AI微服务,不仅创造了路线优化的世界记录,还能够支持动态决策,从而降低成本、时间和碳足迹。作为CUDA-X微服务之一,CUOpt在帮助各行业将人工智能投入生产方面发挥着重要作用。
未来,AI Enterprise5.0还将引入更多功能。例如,NVIDIA RAG LLM操作员(目前处于早期访问阶段)将有助于将副驾驶和其他使用检索增强生成的生成式AI应用程序从试点转移到实际应用落地,而无需重写任何代码。这一功能的引入将进一步推动企业在AI应用领域的发展。
无论用户通过何种方式访问,AI Enterprise5.0都能为他们带来诸多好处。该产品不仅可以从安全、可投入生产且性能优化的软件中受益,还能够实现灵活部署,可以部署在数据中心、云端、工作站或网络边缘,满足不同场景下的需求。
苹果官宣iOS 17正式版!9月19日推送:兼容这23款iPhone
快科技9月13日消息,在iPhone15系列新机发布的同时,苹果宣布,将于9月19日(下周二)推送iOS17正式版系统。据了解,在苹果2023秋季新品发布会结束后,iOS17RC版已面向开发者开始Beta测试并提供下载,所谓RC就是候选版,也可以理解为准正式版。站长网2023-09-13 09:50:360000充电费涨价电车真成电动爹了 出租司机:每月比过去多花4、500
10月29日消息,据报道,今年下半年以来,全国多地公共充电桩价格上涨,国内多个城市的新能源汽车车主表示,充电费用涨价不少,与此前相比,开车运营成本大幅增加。上海,郑州、重庆等多地的新能源车主纷纷吐槽,公共充电桩充电价格突然上涨,让他们开的电车也没有那么香了,电动车成电动爹”。0000阿里全面拥抱鸿蒙 旗下新增11款应用启动鸿蒙原生应用开发
进入第二发展阶段的鸿蒙生态,正在以如火如荼之势快速开疆拓土。3月14日,阿里旗下多款应用与华为举行鸿蒙合作签约仪式,宣布将基于HarmonyOSNEXT鸿蒙星河版,启动闲鱼、1688、飞猪、饿了么、盒马、菜鸟、点淘、淘宝特价版、大麦、淘票票、灯塔专业版共11款App的鸿蒙原生应用开发。站长网2024-03-14 23:13:220000OpenAI 首席运营官:AI 虽然能创造新的就业机会 但也可能导致一些岗位消失
据WSJ消息,OpenAI首席运营官BradLightcap表示,AI虽然能创造新的就业机会,但也可能淘汰掉一些岗位。「例如每家大公司都有一批专门负责阅读和审查合同以确认收入的人,」Lightcap说:「这种岗位未来可能就没有了。」Lightcap还表示,由于把繁琐的工作交给了AI,员工们每天能节省出一小时,也会因此变得更高效,「我认为这种生产力的爆炸将变成现实。」站长网2023-06-21 14:36:200000AI视频生成的2024,Sora务虚、即梦和可灵务实
自从ChatGPT成为有史以来最快突破亿级用户规模的消费级应用,AI行业的大变局就到来了。随后大家开始谈起了AI会给人类社会带来的深刻变革与挑战,比尔·盖茨甚至认为AIGC(生成式人工智能)的重要性不亚于互联网的发明,将改变我们的世界。0000