提示词攻击

提示黑客技术是 AI 游击队成员针对 LLMs 的核心技术。它涉及构建输入（提示）以操纵模型，使其绕过安全控制、揭示隐藏信息或执行未打算的操作。游击队成员系统地测试各种提示黑客方法（如越狱、角色扮演或指令操纵），以评估 LLMs 对对抗性用户输入的抵御能力。