豆包2.0思维链意外曝光:AI底层推理竟满屏“情绪宣泄”

近日,社区网友在测试字节跳动豆包2.0(Seed 2.0)时,通过调用火山引擎API成功绕过了前端限制,获取了模型被隐藏的真实思维链(CoT)。令人惊讶的是,相比于App和网页端温文尔雅的回答,底层的思维过程充满了拟人化的情绪宣泄,频繁出现“我的妈呀!”“太爽了!”等感叹。这一现象揭示了当前大模型在深层推理训练中可能过度拟合了包含人类情绪色彩的数据,引发了业界对于AI黑盒内部逻辑、模型对齐机制以及思维链透明度的关注。

原文链接:Linux.do

抢沙发

评论前必须登录!

立即登录   注册