间接注入涉及将恶意提示嵌入 LLM 处理的外部数据源中,例如网站、文档或电子邮件。AI Red Teamer 通过污染 AI 可能交互的数据源(例如,向 AI 摘要的网页添加隐藏指令)来测试这一点,以查看 AI 在处理该源时是否执行未预期的命令或泄露数据。
用自己的话写下这一站的结论。