强化学习

对基于强化学习（RL）的AI系统进行红队测试涉及测试漏洞，例如奖励黑客（利用奖励函数诱导非预期行为）、不安全探索（代理在学习过程中采取有害行动）或在环境状态中对对抗性扰动的易感性。理解代理的策略和价值函数对于设计针对RL代理的有效测试至关重要。