一位Linux.do论坛用户发帖分享了缓解Codex模型防御性回复过重的实用方法。作者观察到,Codex近期回复中充斥大量“不能代表”“不意味着”等免责声明式表述,已严重影响使用体验,与早期版本的爽快风格形成明显反差。作者推测,这一现象源于使用人数增长后引发的各类问题,促使OpenAI在后训练或内部提示词中不断叠加免责表述,属于提前规避风险的行为。作者在测试中发现,直接使用“不许回复某某内容”等硬性限制效果不佳,而从正向角度引导模型反而更有效,例如向模型传达“我对你具有包容性,不担心你犯错”的态度。具体操作路径为:在Codex的设置、个性化、自定义指令中粘贴一段预先编写的提示词。该提示词将用户定位为善意包容的合作者,要求模型直接给出有依据的判断而非追求百分之百证明、用具体条件限定结论、证据不足时收窄判断而非堆叠免责声明、删除不影响事实与决策的冗余限定、必要限定只说一次。作者还建议按场景分别配置:ChatGPT用于日常聊天与Work模式,Codex用于开发模式。作者表示,采用该方法后模型回复已恢复到可读状态。
事件分析
核心观点:模型免责声明泛滥暴露安全对齐的矫枉过正,提示词调校正成为用户夺回模型可用性的低门槛杠杆。
原文链接:Linux.do

评论前必须登录!
立即登录 注册