灰盒测试

灰盒 AI 红队测试涉及使用对系统的部分了解进行测试，例如知道模型类型（例如 GPT-4）、访问某些文档或理解系统架构的一般情况，但没有完整的模型权重或源代码。这比黑盒测试更具针对性，同时仍然模拟了某些信息可能被获取的现实外部攻击者场景。