模型安全性

据FinancialTimes报道，OpenAI为了降低ChatGPT的危险性，建立了一支「红队」，并聘请了50名学者和专家来测试最新GPT-4模型。这支「红队」将「定性探测和对抗性测试」新模型，试图「攻破」它。去年，他们在六个月的时间里进行了测试。他们用探索性或危险的问题来挑战GPT-4，发现了一些神经毒剂、谎言、语言操纵和危险的科学常识等问题。