研究人员发现了一种针对AI系统的“环境间接提示词注入”攻击。攻击者利用AI将输入数据误判为命令的漏洞,只需在路标上涂写特定指令,即可劫持自动驾驶汽车或无人机的决策系统。这种攻击可能导致车辆在有人通过时依然驶过斑马线,或让无人机跟踪错误的目标。这一发现揭示了物理环境对多模态AI系统的严重安全威胁。
原文链接:Hacker News
研究人员发现了一种针对AI系统的“环境间接提示词注入”攻击。攻击者利用AI将输入数据误判为命令的漏洞,只需在路标上涂写特定指令,即可劫持自动驾驶汽车或无人机的决策系统。这种攻击可能导致车辆在有人通过时依然驶过斑马线,或让无人机跟踪错误的目标。这一发现揭示了物理环境对多模态AI系统的严重安全威胁。
原文链接:Hacker News
评论前必须登录!
立即登录 注册