智能体 AI 安全

随着能够自主行动的 AI 代理变得更加普遍，AI 红队人员必须测试其独特的安全影响。这包括评估与目标劫持、工具使用中的非预期行为、规划机制利用以及确保代理在其指定边界内安全运行相关的风险。