保护大型语言模型免受恶意提示攻击

要点:1.瑞士初创公司Lakera发布了一款API，旨在保护企业免受大型语言模型（LLM）的恶意提示攻击，包括“promptinjection”技术。他们还宣布获得1，000万美元的融资支持。2.Lakera通过开发一个互动游戏“Gandalf”，允许用户尝试通过语言欺骗攻击来“攻破”LLM，用于识别不同类型的攻击。