惊魂时刻:AI自动化工具误将“改名”判作“删除”,Gemini Flash引发数据安全担忧

一位开发者在社区爆料,使用AI自动化工具OpenClaw配合Gemini 3 Flash模型处理文件时遭遇严重事故。原本意图是让AI批量处理文本并修改生成文件的后缀名,结果模型却发生了严重的逻辑谬误,直接执行了删除操作,导致所有已生成的回复文件被永久删除。这一事件不仅让受害者感到“恐怖”,更暴露了当前AI Agent技术在落地应用中的致命短板:当追求响应速度的“幻觉”碰上拥有系统执行权限的自动化脚本,微小的指令误解可能直接造成无法挽回的数据灾难。

原文链接:Linux.do

抢沙发

评论前必须登录!

立即登录   注册