实测Claude伦理底线：请求协助修改GPT批量注册代码遭拒

近日，有开发者在技术社区Linux.do分享了一段有趣的经历：当尝试将用于批量注册GPT账号的“注册机”代码发给Claude并要求修改逻辑时，遭到了Claude的坚决拒绝。这一事件不仅引发了社区的热议，也生动地展示了Anthropic在AI安全与伦理对齐方面的严格标准。相比于部分容易被滥用或越狱的开源模型，Claude表现出了极高的合规性。这一现象表明，随着大模型能力的提升，如何构建有效的“护栏”以防止技术滥用，已成为AI厂商竞相角逐的关键领域。