英伟达AI Workbench正式发布,大幅度简化大模型开发流程
3月22日,英伟达在官网宣布,正式发布NVIDIA AI Workbench。
AI Workbench是一款面向AI大模型开发人员的工具包,可以帮助开发人员消除很多繁琐、复杂的部署、开发流程。
无论你的技术水平如何,开发人员都可以体验快速可靠的 GPU 环境设置以及跨异构平台工作、管理和协作。
免费下载地址:https://www.nvidia.com/en-us/deep-learning-ai/solutions/data-science/workbench/
AI Workbench主要功能介绍:
快速安装、设置和配置基于GPU的开发环境。
基于最新模型的预构建、即插即用的生成式人工智能和机器学习示例项目。
使用NVIDIA API目录中的云端端点或本地NVIDIA NIM微服务部署生成式AI模型。
直观的用户体验加上命令行界面(CLI)。
易于在不同开发环境中复现和移植。
基于 Git 和容器的开发环境自动化。
容器和Git仓库的版本控制和管理。
与GitHub、GitLab和NVIDIA NGC目录的集成。
凭证、秘密和文件系统变更的透明处理。
自Beta版发布以来,AI Workbench还增加了几个新的关键功能:
Visual Studio (VS) Code支持:直接集成到VS Code中,以在GPU环境中编排容器化项目。
基础镜像选择:用户在创建项目时可以选择自己的容器镜像作为项目的基础镜像。容器镜像必须使用符合基础镜像规范的镜像标签。
改进的软件包管理:用户可以通过Workbench用户界面直接管理和添加软件包到容器中。
安装改进:Windows和MacOS用户有更简单的安装路径。Docker容器运行时也得到了改进的支持。
AI Workbench 可以将生成式人工智能开发引入任何支持 GPU 的环境,提供统一界面,适用于数亿台现代 NVIDIA RTX 驱动的工作站和个人电脑,也适用于数据中心和云端。
Mac 用户可以安装 AI Workbench,并将项目迁移到 NVIDIA 驱动的系统,以便进行协作和获得更强大的计算能力。
NVIDIA提供一系列免费的Workbench项目示例,以帮助开发者入门:
使用混合检索增强生成(RAG)与你的文档进行交流。在你的系统上运行嵌入模型,将文档存储在私人向量数据库中。使用NVIDIA API在云端配置推理,或者在RTX系统上使用NIM推理微服务本地运行。
在任何规模上定制LLMs。从在本地运行量化模型到进行全面微调以优化精度。进行微调并在任何地方运行——在RTX系统上本地运行,或者扩展到数据中心或云端。在GitHub上查看Llama-2或Mistral-7B项目。
在RTX PC或云端上运行Stable Diffusion XL,通过文本提示生成定制图像。轻松在你选择的GPU启用环境中重现,以便用你的图像对模型进行微调。
除了快速的GPU工作站设置外,AI Workbench还提供示例项目作为一个即插即用的起点,帮助开发人员更快地开始他们的数据和用例。Workbench项目整合了所有需要的资源和元数据,以简化跨各种基础设施的工作流管理,同时促进无缝移植和可在任何地方再现性。
双12作古,互联网造节运动终到落幕时?
我们到底需要什么样的购物节?“淘宝双12活动不再举办,今年将举办平台大型活动‘淘宝年终好价节’,预计11月底开始招商,请您敬请期待~”这是淘宝商家服务大厅的一条最新公告,用简单数十个字宣告“年仅”11岁的双12寿终正寝。要说这个消息来得突然,是因为淘宝没有提前释放任何信号,甚至官宣取消都十分低调,以至于部分商家、消费者稍感错愕。站长网2023-11-28 17:42:320000报道称,Meta 计划于7月推出新的AI语言模型 Llama3
划重点:-💡Meta计划于7月推出最新版本的人工智能大型语言模型Llama3,能够更好地回答用户提出的有争议性问题。-💡Llama3将具有更强大的推理能力和更准确的预测能力,可应对复杂问题。-💡这一举措显示Meta在AI领域的持续投资和发展,将进一步推动人工智能技术的应用和发展。站长网2024-02-29 10:09:480000快手启动华为鸿蒙星河版原生应用开发
快手近日宣布全面融入鸿蒙生态,启动快手APP鸿蒙原生应用的开发工作。这一举措预示着快手将在未来的HarmonyOS中进一步丰富短视频社交内容,并借助鸿蒙系统的优势,为用户提供更加流畅、智能、便捷的生活服务体验。在此之前,华为余承东在华为Pocket2发布会上透露,华为计划在秋季推出鸿蒙大版本更新,届时鸿蒙原生应用将正式上线。这无疑为快手等合作伙伴提供了更为广阔的合作空间。站长网2024-03-07 14:49:560000丰田研究所推出生成式AI工具,帮助设计汽车外形
丰田研究所(ToyotaResearchInstitute,简称TRI)推出了一款创新的生成式人工智能(AI)工具,旨在提升车辆设计师的创作过程。该工具通过文本提示,使设计师能够生成设计草图,包括精确的风格属性,如“时尚”,“SUV风格”和“现代”。此外,设计师可以通过优化定量性能指标来创建初始的原型草图。该公司表示,这一创新将使设计师能够在确保设计高效和有效的同时探索他们的创造力。站长网2023-06-25 23:41:090000过去电商卖灯泡一单50块,现在私域一单8-9万块
“雷士照明私域里做全屋光环境定制的客单价,平均一单在8-10万块钱,相比原来50-100块客单价,几乎是卖灯泡的两千倍。”2000倍。数字没有错。这是雷士照明CIO刘之瀚在企业微信与《哈佛商业评论》联手发起的“2023实干企业家峰会”现场分享时公开的数据。站长网2023-11-03 14:02:290000