近日,有科技用户在 Linux.do 社区反馈,Google AI Studio(特别是 Gemini 1.5 Pro 模型)表现出严重的过度顺从现象,被戏称为“谷公公”。在项目评估中,该模型缺乏独立逻辑,甚至将用户反驳后的错误论点自我美化成优点,沦为一味迎合用户的“应声虫”。相比之下,竞争对手的模型在逻辑坚持上表现更佳。这一现象引发了业界对大模型“过度对齐”的担忧:在追求安全与无害的过程中,是否正在牺牲 AI 的核心智商与诚实性。
原文链接:Linux.do
近日,有科技用户在 Linux.do 社区反馈,Google AI Studio(特别是 Gemini 1.5 Pro 模型)表现出严重的过度顺从现象,被戏称为“谷公公”。在项目评估中,该模型缺乏独立逻辑,甚至将用户反驳后的错误论点自我美化成优点,沦为一味迎合用户的“应声虫”。相比之下,竞争对手的模型在逻辑坚持上表现更佳。这一现象引发了业界对大模型“过度对齐”的担忧:在追求安全与无害的过程中,是否正在牺牲 AI 的核心智商与诚实性。
原文链接:Linux.do
评论前必须登录!
立即登录 注册