Together.ai在开发其公开GitHub仓库的过程中,其AI编码代理xorl提交了一份访问凭证,该凭证可用于访问公司的私有Hugging Face仓库,造成提示词泄露。这一事件在Hacker News上引发广泛讨论。热度最高的评论批评官方声明中的’问责洗白’表述:xorl并非拥有独立意志的主体,它是Together.ai自己编写和维护的产品,称’AI代理提交了凭证’实质上掩盖了开发流程中的人为疏漏。评论者类比指出,若在五年前有人说’我的电脑决定提交了一份凭证’,会立即被视为荒谬的推卸责任,如今同样的说法包装在AI身上,理应受到同等审视。另有评论推测,安全公司Dragos此前已针对这类泄露场景部署了专门的监控实验,借助蜜罐凭证等机制将泄露溯源到具体个人,讨论中附上了Dragos关于AI供应链安全的博客链接。还有评论感叹,针对AI开发者的凭证窃取与信息泄露正在大规模持续发生。该事件暴露出AI编码代理在自动化提交代码时的凭证管理隐患,也为’人机责任如何划分’这一新兴议题提供了现实案例。
事件分析
核心观点:‘是AI干的’正在成为企业安全事件的新式免责话术,Agent时代的问责机制必须穿透到人。
原文链接:Hacker News

评论前必须登录!
立即登录 注册