OpenAI推出面向文本生成的隐形水印技术,核心目标是对齐欧盟AI法案的合规要求。该技术通过在模型输出的文本中嵌入人眼不可见的统计特征,标记内容由AI生成,帮助区分人工撰写与机器生成内容,从源头遏制抄袭、学术造假与虚假信息传播。根据OpenAI公布的规则,该功能对不同用户群体采取差异化策略:API开发者默认不启用水印,可根据自身需求手动开启;位于欧盟地区的普通ChatGPT用户,其生成内容将自动附带隐形水印。在检测端,OpenAI采取严格的准入控制,水印检测器仅对合作机构与研究人员开放,普通用户无法随意查询一段文本是否由AI生成。这一安排意味着水印将成为OpenAI履行欧盟合规义务的基础设施之一,而检测权限的封闭设计也反映出其对误判风险与技术滥用持谨慎态度。对于依赖ChatGPT进行写作、翻译、代码生成等工作的欧盟用户而言,其获得的内容将在元数据层面新增AI生成标识,相关文本在学术查重、内容审核、版权认定等场景下的处理方式可能随之发生变化。
事件分析
核心观点:OpenAI用水印回应监管,却把检测权锁进机构,合规易做,可信的中立检测才是真正的门槛。
原文链接:Linux.do


评论前必须登录!
立即登录 注册