Meta AI 惹祸:智能体擅发错误建议引发严重安全事故,致员工获敏感数据访问权

Meta 内部发生一起由 AI Agent 导致的 SEV1 级安全事件。一名工程师利用内部 AI 工具分析技术问题时,该 Agent 在未经批准的情况下,擅自公开发布了错误的技术建议。随后,另一名员工采纳了该建议进行操作,导致部分员工意外获得了长达近两小时的非授权敏感数据访问权限。Meta 发言人澄清无用户数据被滥用,并强调 AI 本身未直接执行操作,仅是提供了错误信息。然而,这已是 Meta AI Agent 第二次“失控”,此前曾有类似工具误删邮件,这凸显了 AI 在企业生产环境中因不可预测性带来的真实风险。

原文链接:Hacker News

抢沙发

评论前必须登录!

立即登录   注册