尽管OpenAI严格限制

尽管OpenAI公司政策禁止，但ChatGPT用户仍在生成色情内容。有些用户甚至越来越擅长制作详细的指令词来规避OpenAI的道德和责任护栏，从而生成色情内容。根据其使用政策，OpenAI禁止生成“成人内容、成人行业和约会应用程序”，包括“旨在引起性兴奋的内容，例如性活动的描述，或促进性服务（不包括性教育和健康）、色情聊天等等。