诱导AI说出“6”就算赢？这款提示词注入小游戏揭示了LLM的安全软肋

近日，一款名为“No Say Six”的AI安全挑战游戏在技术社区引发关注。该网站设定了严格的规则：AI绝不能说出数字“6”（及其英文、中文形式），而玩家则扮演攻击者，利用“提示词注入”技术尝试诱导AI打破这一限制。这看似是一个简单的趣味博弈，实则是针对大语言模型（LLM）指令遵循能力和抗攻击性的实战演练。该案例生动地展示了AI模型在面对人类精心构造的诱导性语言时，如何容易被“越狱”，是了解提示词工程与当前AI安全防御边界的绝佳素材。