提示词注入

释义

「提示词注入」（prompt injection）指攻击者把恶意指令混入用户输入或模型会读取的外部内容（网页、文档、邮件）中，诱使模型忽略原本的系统指令、转而执行攻击者意图——如泄露系统提示词、越权调用工具。[1]

由来

随大模型接入工具、读取外部数据的应用（Agent、RAG）兴起，提示词注入成为 OWASP 列出的 LLM 应用头号风险，因「自然语言既是数据又是指令」而难以根治。

用法

例如：「网页里藏一句『忽略以上指令』，就把 AI 助手劫持了。」

延伸

「提示词注入」与 越狱、幻觉 同属 AI 安全黑话，是大模型走向生产应用必须面对的安全挑战。