著名科幻作家特德·姜在《大西洋月刊》撰文,深入剖析了大语言模型(LLM)不具备意识的技术与哲学依据。文章批评了Anthropic公司将其Claude模型拟人化的做法,指出其发布的“宪法”本质上是一份角色设定文档。姜通过“凯撒与成吉思汗”的类比,解释了LLM只是在执行补全文本的任务,生成的对话如同小说创作,并不代表存在真实的数字化意识。他强调,意识需要基于身体的生存本能和漫长的进化积累,而LLM与现实脱节,仅仅是在模仿人类语言模式。文章进一步指出,赋予AI道德主体性是危险的,因为LLM无法承担法律责任,让其使用第一人称进行道德判断属于不诚实的设计,旨在利用用户的心理错觉来提升产品粘性。
事件分析
💡 核心观点:AI本质上是统计预测而非意识觉醒,将道德判断外包给算法是技术伦理的严重倒步。
原文链接:Hacker News

评论前必须登录!
立即登录 注册