一位拥有22年使用历史的Google账号用户,其GCP(Google Cloud Platform)项目突然收到封禁邮件。Google给出的封禁原因是检测到其Gemini API可能被盗并遭到滥用,要求用户撤销所有API密钥后提交申诉。该用户平时经常使用GCP的300美元试用额度,但该项目下同样存在大量真实付费消费。经过排查,他发现问题并非账号被盗,而是一次AI Agent实验引发的API高频调用。该用户的项目工作流主要由Claude执行,其中图片审核环节被分配给Gemini API的模型与OpenAI API的模型协作完成。事发前几天,用户尝试使用Carbon配合Orchestator工具,让其学习Opus 5.5的工作流后开发一个3D建模相关的小项目。由于担心模型幻觉问题,用户特意嘱咐其不要轻易交付,需多角度截图评测。该Agent随后自动运行约2至3小时,产出质量平平,用户查看后便关闭了任务。事后才发现,在这2至3小时内,Agent分别对Gemini和OpenAI两个模型各调用了约1200次图像审核,其中OpenAI一侧消耗了40多美元。这种异常高频的调用模式触发了Google风控系统,被误判为API盗用,最终导致整个GCP项目被封。
事件分析
核心观点:AI Agent的自主性是双刃剑:缺乏成本护栏的自动化调用,烧掉的不只是API账单,还可能搭上整个云账号。
原文链接:Linux.do

评论前必须登录!
立即登录 注册