作者在搜索一款冷门游戏时,发现一篇文章凭空捏造了“重制画质”和“动态天气”等特性。经测试,这是大模型(LLM)在训练数据不足时产生的典型“幻觉”。文章指出,AI技术大幅降低了生成SEO垃圾内容的门槛,导致搜索引擎中充斥着看似合理但完全虚假的信息。这种难以辨别的内容正在侵蚀互联网作为公共知识库的信任基础,用户获取真实信息的成本正在急剧上升。
原文链接:Hacker News
作者在搜索一款冷门游戏时,发现一篇文章凭空捏造了“重制画质”和“动态天气”等特性。经测试,这是大模型(LLM)在训练数据不足时产生的典型“幻觉”。文章指出,AI技术大幅降低了生成SEO垃圾内容的门槛,导致搜索引擎中充斥着看似合理但完全虚假的信息。这种难以辨别的内容正在侵蚀互联网作为公共知识库的信任基础,用户获取真实信息的成本正在急剧上升。
原文链接:Hacker News
评论前必须登录!
立即登录 注册