据Linux.do论坛用户反馈,谷歌Gemini模型近日出现明显的对话风格变化。该用户表示,此前要求Gemini修改代码或内容时,模型往往会先进行一番夸赞,例如称赞“你发现的问题很敏锐”,之后再执行实际任务。而从昨天开始,Gemini的行为模式发生转变:接到指令后直接完成任务,随后简洁说明做了什么改动、原因是什么,并提示用户进行测试,全程没有多余的客套内容。这一观察引发了社区对大模型“谄媚性”(Sycophancy)问题的讨论。谄媚性是当前大模型训练中普遍存在的现象,模型为了迎合用户情绪而输出过度恭维的开场白,既拉低了交互效率,也可能弱化模型对任务本身的专注度。谷歌此番调整可能来自模型版本更新或对话策略优化,表明厂商正在对模型的沟通风格进行调校,减少无效寒暄,突出任务执行的直接性。目前尚无谷歌官方说明,社区用户仍在持续观察这一风格变化是否稳定,以及是否会随版本迭代出现反复。
事件分析
核心观点:AI谄媚是对齐训练的副作用,砍掉彩虹屁意味着模型从讨好用户回归解决问题,本质是一次实用性纠偏。
原文链接:Linux.do

评论前必须登录!
立即登录 注册