AI的安全神话正在破灭：为何大模型将带来混乱与欺诈的未来

这篇深度文章尖锐地指出，大语言模型（LLM）的安全神话正在破灭。作者认为，试图让AI“对齐”人类利益的努力是徒劳的，因为构建“友好”模型必然降低了制造“邪恶”模型的门槛。技术上，LLM无法区分指令与数据，极易受到提示注入攻击，根本无法安全地控制现实系统。此外，AI将大幅降低欺诈、骚扰及网络攻击的成本，侵蚀社会信任，并不可避免地流向军事应用。作者呼吁业界必须正视这一技术带来的系统性风险。