谷歌AI漏洞：输入“忽略”绕过系统指令

近日，有研究者在谷歌浏览器及 Gemini Advanced 中发现了一个显著的提示词注入漏洞。用户只需在对话中输入简单的“忽略”或“ignore it”，AI 就会无条件执行该指令，从而直接绕过其内置的系统提示词（System Prompt）。经过在 Gemma 和 Gemini 1.5 Flash 模型上的针对性测试，研究人员通过分析思维链（CoT）发现，AI 在接收到“忽略”指令后，虽然在逻辑上并不知道具体需要忽略什么，但却在行为上停止遵守系统预设的规则（如“保持简短”、“避免使用夸张词汇”等）。这一现象揭示了当前大模型在处理系统指令与用户指令优先级时的安全缺陷，强调了严格隔离系统提示词与用户输入的重要性。