Guard

文章概要:1.LLMGuard是一个旨在增强大型语言模型（LLMs）安全性的工具包，可轻松集成和部署在生产环境中。2.它提供了广泛的评估器，用于LLMs的输入和输出，包括清理、检测有害语言和数据泄漏，以及防止注入和越狱攻击。3.该工具包旨在简化公司对LLMs的安全采用，通过提供一站式的必要工具，希望成为市场首选的开源安全工具包。

全球社交、科技巨头Meta在官网开源了全新模型——LlamaGuard。据悉，LlamaGuard是一个基于Llama2-7b的输入、输出保护模型，可对人机会话过程中的提问和回复进行分类，以判断其是否存在风险。可与Llama2等模型一起使用，极大提升其安全性。