Guardrails

生成式人工智能和大型语言模型（LLMs）的一个主要挑战是用户可能得到不适当或不准确的回应的风险。英伟达非常了解保护组织及其用户的需要，日前它发布了新的NeMoGuardrails开源框架以帮助解决这一挑战。NeMoGuardrails项目提供了一种方法，使为不同用例（包括聊天机器人）构建和部署LLM的组织能够确保响应保持在正轨上。

为了追求“更安全”的文本生成模型，Nvidia日前发布了开源工具包NeMoGuardrails，旨在使基于AI应用程序更加“准确、合理、切合主题和安全”。Nvidia应用研究副总裁JonathanCohen表示，该公司“多年来”一直致力于Guardrails的底层系统，但大约一年前才意识到它非常适用于GPT-4和ChatGPT等模型。