Anthropic公开Claude完整“宪法”,重塑AI价值观与训练范式

Anthropic发布了全新的Claude“宪法”,详细阐述了其AI模型的价值观和行为准则。该文档采用CC0协议开源,旨在通过解释意图和原因而非单纯设定规则,培养Claude的推理能力和良好价值观。宪法确立了安全、伦理、合规与有益性的优先级,涵盖了从诚实标准到处理道德不确定性的广泛指导,并探讨了Claude的本质与自我意识,标志着AI对齐训练方法的重大进化。

原文链接:Hacker News

C code80.ai · AI 编码 API 聚合 Claude / GPT 多模型统一接入,稳定不限速,按量计费,几行配置接入 Claude Code。 了解一下 ›

抢沙发

评论前必须登录!

立即登录   注册