近期,许多安全从业者在尝试利用 ChatGPT、Gemini 等 AI 辅助渗透测试工作时,频频遭遇“拒绝回答”的窘境。由于主流大模型的安全护栏过于敏感,将合法的防御性安全研究误判为“恶意攻击”,导致 AI 无法发挥应有的辅助作用。这一现象不仅暴露了通用大模型在垂直领域的应用短板,也引发了业内对于 AI 安全审查机制是否“矫枉过正”的深刻反思,推动行业探索更灵活的本地化或专业级解决方案。
原文链接:Linux.do
近期,许多安全从业者在尝试利用 ChatGPT、Gemini 等 AI 辅助渗透测试工作时,频频遭遇“拒绝回答”的窘境。由于主流大模型的安全护栏过于敏感,将合法的防御性安全研究误判为“恶意攻击”,导致 AI 无法发挥应有的辅助作用。这一现象不仅暴露了通用大模型在垂直领域的应用短板,也引发了业内对于 AI 安全审查机制是否“矫枉过正”的深刻反思,推动行业探索更灵活的本地化或专业级解决方案。
原文链接:Linux.do
评论前必须登录!
立即登录 注册