此类别涵盖针对 AI 模型本身的攻击和测试,超出提示界面。AI Red Teamer 调查模型架构、训练数据伪影或预测机制中的固有弱点,例如对数据提取、污染或对抗性操纵的易感性。
用自己的话写下这一站的结论。