GPTZero的调查显示,安永(EY)加拿大分部发布的网络安全报告《攻击点:揭露忠诚度系统中的网络威胁与欺诈》存在严重的质量问题。该报告被指充斥着大量由大语言模型生成的“氛围引用”,即AI凭空捏造的虚假参考文献和统计数据。GPTZero利用自动化管道检测发现,报告中引用的Gartner、麦肯锡及Wired等权威来源链接大多为死链或完全不存在,文中甚至出现关于市场规模自相矛盾的描述。调查进一步指出,这份由AI生成且缺乏人工审核的报告正在污染互联网数据池,其虚假信息已被ChatGPT和Perplexity等AI搜索引擎收录,形成“数据投毒”效应,从而误导人类研究人员及决策者。
事件分析
💡 核心观点:权威咨询报告沦为AI幻觉的“洗白”载体,数据投毒正在系统性侵蚀互联网信息的可信根基。
原文链接:Hacker News

评论前必须登录!
立即登录 注册