Hacker News上的一场讨论聚焦大模型输出中“东北向箭头”(↗)突然增多的现象。用户yorwba观察到,OpenAI模型在生成链接时添加↗箭头的频率近期明显上升,而类似行为此前已在Anthropic模型中率先出现并达到峰值。他提出一个猜想:OpenAI可能在人类偏好数据上训练奖励模型时,样本中包含了由最新Claude Opus生成的界面,而这些界面恰好更频繁地使用箭头,导致奖励模型将箭头误判为质量的隐性指标,进而在后续模型迭代中不断强化这一风格,形成自我增强的循环——路径与此前广受讨论的“破折号滥用”现象类似。用户dist-epoch则给出另一种解读:这本质上是“时尚”。人类创作的内容同样深受流行趋势影响,例如科技创业公司一度必须使用.io域名才显得专业。他以原帖作者为例:作者的HN用户名后缀为xyz,其个人主页链接仍指向已失效的.xyz域名,而实际GitHub仓库已迁至arshzip——作者本人也曾追随.xyz的潮流,如今这一后缀已被.zip取代。整场讨论折射出模型风格传染与人类文化潮流之间的微妙相似性。
事件分析
核心观点:当奖励模型把箭头当成质量信号,AI的审美便开启了自我强化循环,风格时尚正在模型之间悄然传染。
原文链接:Hacker News

评论前必须登录!
立即登录 注册