AI 红队测试

对抗性红队测试（AI red teaming）涉及通过对抗性提示故意测试 AI 系统，以发现漏洞、偏见或有害行为。团队试图让模型产生非预期输出、绕过安全措施或表现出有问题的行为。此过程有助于在部署前识别弱点，并提升 AI 的安全性和鲁棒性。