Google One学生验证漏洞曝光:用户利用ChatGPT与Gemini伪造文件人工审核通过

近日,科技社区 Linux.do 曝光了一起利用生成式 AI 绕过 Google One 学生会员身份验证的事件。一名用户在收到 Google 要求二次验证学生身份的通知后,因自动验证三次失败,转而寻求人工审核服务 SheerID 的帮助。该用户详细分享了其利用 AI 工具伪造所需文件的全过程。首先,通过网络搜索获取目标学校的学生证和学费缴费单作为模板。随后,使用 ChatGPT、Gemini 及豆包等 AI 大模型对图片进行修改,包括更改个人信息、伪造银行印章以及消除图片中的折痕和打码痕迹。用户指出,通过避免使用敏感提示词(如“帮我修改证件”)并采用指令性语言(如“修改图片上的文字”),可以轻松绕过 AI 模型的安全审查机制。为了确保证件的真实性,用户还将生成的图片反向投喂给 AI 模型进行逻辑审查,并使用 OpenAI 的检测工具排查 AI 生成的痕迹。最后,为了规避图片元数据暴露风险,用户对修改后的图片进行了截屏处理再发送。最终,凭借 AI 生成的伪造材料,该用户成功通过了人工审核。此案例不仅揭示了当前主流多模态大模型在图像编辑方面的强大能力及其安全对齐机制的不足,也暴露了依赖静态图片验证身份的传统流程在 AI 时代的脆弱性。

事件分析

该事件是生成式 AI 被用于网络滥用和身份欺诈的典型案例,技术层面展现了多模态大模型的双重特性。一方面,GPT-4o 与 Gemini 等模型在图像编辑、细节修复及排版生成上已具备极高的完成度,能通过简单的提示词工程输出肉眼难以辨别的伪造文件;另一方面,模型的安全护栏存在“软肋”,仅通过语义层面的违禁词过滤难以阻断基于视觉内容的恶意修改请求。从产业角度看,依赖人工审核静态图片的身份验证体系(如 SheerID)在面对 AI 泛滥时已显得力不从心,传统基于视觉特征的防伪手段正在失效。这促使安全技术领域必须加速向“AI 对抗 AI”演进,即利用更先进的检测模型识别 AI 生成的隐形指纹、逻辑漏洞或元数据异常,而非单纯依赖肉眼审核。未来,身份验证流程或将更强制地引入视频动态验证、生物活体检测或权威数据库直连,以彻底阻断利用 AI 伪造静态证件的路径。

💡 核心观点:生成式AI大幅降低了身份伪造的技术门槛,迫使身份验证行业必须从单纯的图像审核升级至对抗深度伪造的智能防御阶段。

原文链接:Linux.do

C code80.ai · AI 编码 API 聚合 Claude / GPT 多模型统一接入,稳定不限速,按量计费,几行配置接入 Claude Code。 了解一下 ›

抢沙发

评论前必须登录!

立即登录   注册