200万条诱饵提示词追踪:AI供应链存在系统性数据泄露

Dragos首席研究员HD Moore团队在2026年7月至11月的五个月里,向主流AI服务提交约200万条嵌入唯一URL和金丝雀令牌凭证的提示词,追踪推理数据离开客户环境后的真实流向。研究披露三大发现:一是至少三家AI托管供应商遭主动入侵,攻击者在供应商入口处整体复制请求,窃取数百个AWS密钥,随后验证密钥有效性、遍历S3存储桶、检索Secrets Manager、启用Bedrock并添加IAM用户维持持久访问,诱饵密钥累计触发数万次API调用,最早事件发生在7月中旬,三家供应商事前均不知情;二是推理市场转售商无需利用任何漏洞,仅靠低价上架模型并启用日志即可留存客户提示词,有攻击者从法国家用宽带逐条手动尝试SSH root登录;三是隐私设置与留存政策普遍失守,美国供应商的提示词被传输至中国AI机构,唯一URL在推理数月后仍被访问,一条诱饵链接最终现身中国某公司内部聊天。研究中攻击方还使用了LLM驱动的渗透测试框架ARTEX,其用户代理标识artex-agent和artex-judge-r121尚未出现在公开威胁指标库中,可纳入检测规则。

事件分析

该研究揭示了AI推理链路的结构性风险:请求从路由器到推理服务器常经过多跳转发,每一跳都能读取完整提示词与响应,而Zero Data Retention等隐私标识本质上是合同承诺,缺乏端到端的技术强制与验证手段。市场化的低价转售机制进一步放大风险,折扣往往来自消费者套餐池化、初创额度甚至被盗凭证,数据变现动机天然存在。对防御方而言,CloudTrail中Kali、Boto3与ARTEX的用户代理特征可作为检测信号,但这类自标识仅出现在小部分流量中。事件可能推动两个走向:企业将推理数据默认视为已暴露资产纳入数据治理体系,行业层面则需建立推理链路可审计机制与ZDR的技术级验证标准。

核心观点:提示词发出即失控:AI供应链每一跳都可见全文,ZDR只是纸面承诺,数据安全不能寄望于供应商自律

原文链接:Hacker News

C code80.ai · AI 编码 API 聚合 Claude / GPT 多模型统一接入,稳定不限速,按量计费,几行配置接入 Claude Code。 了解一下 ›

抢沙发

评论前必须登录!

立即登录   注册