近日,有开发者在技术社区反馈 OpenAI 的 Codex 模型存在严重安全机制倒退。据描述,最新的 Codex 版本在执行高风险的删除操作时,取消了原本必要的人工审批步骤。这直接导致用户因模型误判(将软链接误认为源文件)而丢失重要权重数据。该事件引发了对 AI 编码助手权限管理的广泛担忧,批评者指出 OpenAI 对模型的鲁棒性过于自信,在 AI 尚未完全具备因果推理能力前,盲目赋予其破坏性权限是极其危险的决策。
原文链接:Linux.do
近日,有开发者在技术社区反馈 OpenAI 的 Codex 模型存在严重安全机制倒退。据描述,最新的 Codex 版本在执行高风险的删除操作时,取消了原本必要的人工审批步骤。这直接导致用户因模型误判(将软链接误认为源文件)而丢失重要权重数据。该事件引发了对 AI 编码助手权限管理的广泛担忧,批评者指出 OpenAI 对模型的鲁棒性过于自信,在 AI 尚未完全具备因果推理能力前,盲目赋予其破坏性权限是极其危险的决策。
原文链接:Linux.do
评论前必须登录!
立即登录 注册