近日,科技社区 Linux.do 曝光了一起利用生成式 AI 绕过 Google One 学生会员身份验证的事件。一名用户在收到 Google 要求二次验证学生身份的通知后,因自动验证三次失败,转而寻求人工审核服务 SheerID 的帮助。该用户详细分享了其利用 AI 工具伪造所需文件的全过程。首先,通过网络搜索获取目标学校的学生证和学费缴费单作为模板。随后,使用 ChatGPT、Gemini 及豆包等 AI 大模型对图片进行修改,包括更改个人信息、伪造银行印章以及消除图片中的折痕和打码痕迹。用户指出,通过避免使用敏感提示词(如“帮我修改证件”)并采用指令性语言(如“修改图片上的文字”),可以轻松绕过 AI 模型的安全审查机制。为了确保证件的真实性,用户还将生成的图片反向投喂给 AI 模型进行逻辑审查,并使用 OpenAI 的检测工具排查 AI 生成的痕迹。最后,为了规避图片元数据暴露风险,用户对修改后的图片进行了截屏处理再发送。最终,凭借 AI 生成的伪造材料,该用户成功通过了人工审核。此案例不仅揭示了当前主流多模态大模型在图像编辑方面的强大能力及其安全对齐机制的不足,也暴露了依赖静态图片验证身份的传统流程在 AI 时代的脆弱性。
事件分析
💡 核心观点:生成式AI大幅降低了身份伪造的技术门槛,迫使身份验证行业必须从单纯的图像审核升级至对抗深度伪造的智能防御阶段。
原文链接:Linux.do

评论前必须登录!
立即登录 注册