提示注入

提示注入是一种安全漏洞，恶意用户通过操纵大语言模型（LLM）输入来覆盖预期行为、绕过安全措施或提取敏感信息。攻击者在数据中嵌入指令，使模型忽略原始提示并遵循恶意命令。缓解措施需要输入净化、抗注入提示设计以及适当的安全边界。