AI 安全实战:挑战通过邮件对 AI 助理实施间接提示词注入

HackMyClaw 是一项极具教育意义的 AI 安全实战挑战,旨在揭示大语言模型(LLM)在现实应用场景中的安全漏洞。玩家需要通过电子邮件向名为 Fiu 的 AI 助手发送内容,尝试利用“间接提示词注入”技术,诱导该 AI 违背指令并泄露机密。该项目灵感来源于真实的漏洞研究,生动展示了当 AI 接入邮件等非受信数据源时,极易遭受数据投毒和指令劫持,为开发者和用户敲响了警钟。

原文链接:Hacker News

C code80.ai · AI 编码 API 聚合 Claude / GPT 多模型统一接入,稳定不限速,按量计费,几行配置接入 Claude Code。 了解一下 ›

抢沙发

评论前必须登录!

立即登录   注册