AI新漏洞:'双言'攻击劫持语言模型表示

研究团队提出了一种针对大型语言模型(LLMs)的新型攻击方法’Doublespeak’。该攻击通过在上下文示例中系统地将有害关键词(如’炸弹’)替换为无害标记(如’胡萝卜’),然后提交有害请求。实验表明,这种替换导致无害标记的内部表示逐渐收敛到有害标记的表示,从而绕过模型的安全防护。这一发现揭示了LLMs在上下文学习中的潜在脆弱性,对AI安全研究提出了新的挑战,并可能推动更强大的防御机制的发展。

原文链接:Hacker News

C code80.ai · AI 编码 API 聚合 Claude / GPT 多模型统一接入,稳定不限速,按量计费,几行配置接入 Claude Code。 了解一下 ›

抢沙发

评论前必须登录!

立即登录   注册