自动化与人工测试

AI 红队测试通常采用自动化工具（用于大规模扫描、模糊化提示、生成基本的对抗性示例）和手动人工测试（用于创意越狱、复杂的多阶段攻击、评估偏见等微妙的安全问题）的组合。自动化提供规模，而手动测试提供所需的深度和创造力，以发现新的漏洞。