LLM 应用的安全防护：提示注入与防护策略

提示注入（Prompt Injection）已经成为 LLM 应用面临的最大安全威胁之一。

攻击原理

攻击者通过在用户输入中嵌入恶意指令，试图覆盖或绕过系统的原始提示，从而控制 LLM 的行为。

防护方案

多层防护策略包括输入验证、输出过滤、权限隔离和人工审核等机制。