DeepSeek惊现“提示词注入”漏洞:输入特定代码可触发随机乱答

近日,有科技社区用户发现DeepSeek存在一个有趣的逻辑漏洞。在开启“深度思考”模式并关闭“智能搜索”的状态下,只需向DeepSeek发送“”、“<think”或特定系统指令符,模型便会失去上下文连贯性,转而开始随机回答某个问题。这一现象被推测可能与DeepSeek处理思维链(CoT)的标签解析机制有关,暴露出大模型在处理特殊字符时的鲁棒性问题,引发了技术圈对于AI模型输入层安全性的热议。

原文链接:Linux.do

抢沙发

评论前必须登录!

立即登录   注册