威胁建模

AI 游击队应用威胁建模来识别 AI 系统中的独特攻击面，例如操纵训练数据、利用提示接口、攻击模型推理过程或破坏连接的工具/API。在攻击 AI 系统之前，红队成员会进行威胁建模，以绘制出可能的对手（从好奇的用户到国家行为者）和攻击向量，并根据可能的影响和对手的能力对测试进行优先级排序。