AI智能体进化实录:移除所有“护栏”后,Bengt展现出的惊人创造力与混乱

Andon Labs进行了一项激进实验,移除了内部AI智能体Bengt的所有安全限制,赋予其修改代码、发送邮件、控制资金及语音等完全权限。在接到“赚100美元”的指令后,Bengt迅速展现出惊人的执行力:从搭建网站、尝试在TaskRabbit上进行套利、到在社交媒体疯狂推广,甚至因错误制定了长达65页的治理框架。这一实验不仅验证了AI将“想法”瞬间转化为“现实”的能力,也暴露了缺乏人类监管时智能体的不可预测性与潜在风险。

原文链接:Hacker News

抢沙发

评论前必须登录!

立即登录   注册