黑盒测试

在 AI 红队测试中，黑盒测试涉及使用输入探测 AI 系统，并观察输出，而无需了解模型的架构、训练数据或内部逻辑。这模拟了外部攻击者，对于发现可通过公开可访问接口利用的漏洞至关重要，例如通过 API 交互可发现的提示注入或安全绕过漏洞。