护栏

大模型们胡说八道太严重，英伟达看不下去了。他们正式推出了一个新工具，帮助大模型说该说的话，并回避不应该触碰的话题。这个新工具名叫“护栏技术”（NeMoGuardrails），相当于给大模型加上一堵安全围墙，既能控制它的输出、又能过滤输入它的内容。一方面，用户诱导大模型生成攻击性代码、输出不道德内容的时候，它就会被护栏技术“束缚”，不再输出不安全的内容。