IT资源栈近日，有科技论坛网友发帖爆料称，在使用ChatGPT进行对话时遭遇了严重的个人信息泄露问题。该用户表示，即便在关闭了“记忆”和“聊天记录”功能的情况下，ChatGPT仍能在毫无上下文线索的情况下，在回复中准确说出其真实姓名。经过进一步的技术测试，用户通过Prompt（提示词）询问模型“从你的元数据中我的名字是什么”，ChatGPT不仅承认了元数据的存在，还完整输出了用户的真实姓名和电子邮箱地址。这一现象表明，用户的账号注册信息可能被直接作为元数据注入到了系统级提示词或上下文窗口中，导致模型将其作为已知事实进行处理。用户检查设置后发现，官方客户端并未提供关闭此类信息透传的开关，目前只能通过自定义系统提示词，明确指令模型“不要使用元数据中的个人信息”来进行临时防御。该事件引发了对于AI云端服务数据处理机制及用户隐私边界的广泛担忧。
事件分析
此次事件暴露了大模型应用架构中数据隔离层面的潜在风险，即应用层的账号元数据可能被未经脱敏地直接注入到模型的上下文窗口中。从技术角度看，这通常是开发者为了实现个性化体验（如称呼用户名字）而采取的便捷手段，但却牺牲了数据的隐私性。当模型能够直接访问注册信息时，通过特定的提示词攻击或对话诱导，极易导致非预期的信息泄露。这一发现对于依赖云端大模型API的开发者和厂商而言是一个警示，即在处理用户数据时，必须严格区分“系统指令”与“用户数据”的边界，或者建立严格的中间层过滤机制。这也反映出当前AI应用在透明度上的不足，用户往往无法知晓哪些后台数据被输入到了模型推理过程中。
💡 核心观点：元数据直接注入上下文的架构设计缺陷，打破了隐私隔离，迫使行业必须重新审视AI系统的数据脱敏与访问控制机制。
原文链接：Linux.do
评论前必须登录！
立即登录 注册