IT资源栈近期一项针对多智能体大语言模型系统的研究揭示了一种名为“域伪装注入”（Domain-Camouflaged Injection）的新型攻击手段，该技术能够成功绕过现有的安全防御机制。在多智能体协作架构中，不同的AI代理通常分工处理代码编写、数据检索或任务执行等操作，而研究者发现，通过将恶意指令伪装成看似合法的特定领域数据（如代码注释、特定格式的文档或专业术语），攻击者可以欺骗负责审核或处理的智能体。这种攻击利用了LLM对特定上下文格式的高度信任，使得包含恶意意图的提示词被系统误认为是正常的任务数据而执行。实验表明，即便是在经过严格人类反馈强化学习（RLHF）的主流大模型上，这种隐蔽的注入方式也能导致系统隐私泄露或生成有害内容。由于多智能体系统内部存在频繁的信息交互，一旦某一节点被攻破，恶意指令极有可能在系统内部横向传播，对网络安全构成严峻挑战。
事件分析
该事件标志着大模型的安全风险正在从单一的“提示词攻击”向复杂的“系统级攻击”演变。多智能体架构虽然提升了处理复杂任务的能力，但其组件间的交互逻辑和依赖关系创造了新的攻击面。传统的防御手段主要关注用户输入端的恶意指令过滤，而忽略了系统内部数据流转中可能存在的“越狱”风险。技术上看，这种“域伪装”攻击利用了智能体对工具和特定格式的盲目信任，这意味着未来的AI安全建设不能仅依赖模型本身的对齐，必须引入类似于操作系统的沙箱隔离和权限管控机制。对于产业界而言，在部署AI Agent处理企业核心业务时，必须重新评估供应链安全和数据验证流程，防止看似无害的中间数据成为突破防线的特洛伊木马。
💡 核心观点：多智能体系统的协作机制成了攻击者的温床，AI安全的焦点已从模型对齐问题升级为必须建立系统级的隔离与防御体系。
原文链接：Hacker News
评论前必须登录！
立即登录 注册