模型权重窃取

AI Red Teamers 评估攻击者通过 API 查询攻击等方式重建或窃取训练模型专有权重的风险。测试涉及模拟此类攻击，以了解模型功能的复制难度，从而为查询速率限制、水印或差分隐私等防御措施提供依据。