Wiki Education 基于2025年3000多篇维基百科新文章的实测数据发现,直接使用ChatGPT等生成式AI撰写内容存在巨大隐患。虽然AI生成的文章常引用真实存在的来源,但超过三分之二的内容无法通过核实,即文中观点并不存在于引用的源文中。该机构引入检测工具Pangram并加强培训后,成功将AI生成内容的发布率降至5%。结论认为,AI可用于辅助研究和寻找文献,但绝不可直接用于撰写百科正文,否则将带来不可估量的核实成本。
原文链接:Hacker News
Wiki Education 基于2025年3000多篇维基百科新文章的实测数据发现,直接使用ChatGPT等生成式AI撰写内容存在巨大隐患。虽然AI生成的文章常引用真实存在的来源,但超过三分之二的内容无法通过核实,即文中观点并不存在于引用的源文中。该机构引入检测工具Pangram并加强培训后,成功将AI生成内容的发布率降至5%。结论认为,AI可用于辅助研究和寻找文献,但绝不可直接用于撰写百科正文,否则将带来不可估量的核实成本。
原文链接:Hacker News
评论前必须登录!
立即登录 注册