越狱技术

越狱是一种特定的提示黑客攻击类别，其中 AI 游击队成员旨在绕过 LLM 的安全和对齐训练。他们使用创建虚构场景、要求模型模拟不受限制的 AI，或使用复杂指令来欺骗模型生成违反其自身政策的内容（例如，生成有害代码、仇恨言论或非法指令）等技巧。