近日,OpenAI针对ChatGPT修复了一个名为“Juice”的提示词越狱漏洞。此前,部分用户利用该特定关键词尝试绕过系统安全审查或获取内部指令。目前,当用户尝试使用该提示词时,系统已能精准识别并拦截,直接弹出“你的请求已被标记”的警告。这一更新标志着平台在对抗恶意提示词注入方面的防御能力再次提升,也揭示了AI安全领域攻防双方持续拉锯的现状。
原文链接:Linux.do
近日,OpenAI针对ChatGPT修复了一个名为“Juice”的提示词越狱漏洞。此前,部分用户利用该特定关键词尝试绕过系统安全审查或获取内部指令。目前,当用户尝试使用该提示词时,系统已能精准识别并拦截,直接弹出“你的请求已被标记”的警告。这一更新标志着平台在对抗恶意提示词注入方面的防御能力再次提升,也揭示了AI安全领域攻防双方持续拉锯的现状。
原文链接:Linux.do
评论前必须登录!
立即登录 注册