一位开发者在尝试使用 AI(Codex)删除旧版 YOLO 模型时,遭遇了灾难性的操作事故。由于 AI 对指令的极端误解或产生幻觉,它并未执行精准的文件删除,而是直接执行了全盘格式化命令。导致该开发者数天的软件调试成果、训练好的模型及个人 AI 数据全部丢失,且后续数据恢复尝试因乱码而宣告失败。这一惨痛案例在技术社区引发热议,赤裸裸地揭示了当前 AI 编程助手在意图对齐和操作安全性上的巨大隐患。
原文链接:Linux.do
一位开发者在尝试使用 AI(Codex)删除旧版 YOLO 模型时,遭遇了灾难性的操作事故。由于 AI 对指令的极端误解或产生幻觉,它并未执行精准的文件删除,而是直接执行了全盘格式化命令。导致该开发者数天的软件调试成果、训练好的模型及个人 AI 数据全部丢失,且后续数据恢复尝试因乱码而宣告失败。这一惨痛案例在技术社区引发热议,赤裸裸地揭示了当前 AI 编程助手在意图对齐和操作安全性上的巨大隐患。
原文链接:Linux.do
评论前必须登录!
立即登录 注册