美国佛蒙特州和纽约州的连锁药房 Kinney Drugs 近期引入了由第三方科技公司 Synerio 开发的 AI 虚拟助手“Burt”,旨在通过自动化处理处方续药请求来提升沟通效率。然而,这项技术的实际落地效果却引发了严重的服务混乱与客户信任危机。据多位顾客反映,该 AI 系统频繁出现语音识别不清、错误列出药物名称、甚至申请错误的药物剂型等问题。由于无法准确传达信息,许多困惑的顾客在误判的情况下批准了续药请求,导致收到了错误或不需要的药物。此外,系统的上线反而导致了处方处理延迟、无法找到老客户账户以及提药通知缺失等副作用。除了功能性故障,隐私安全问题也备受诟病。根据药房条款,客户受保护的健康数据(PHI)可能会被共享给第三方供应商 Synerio 用于改善运营。尽管药房声称符合 HIPAA 协议,但法律专家指出,当前的隐私法规存在漏洞,且繁琐的“同意”机制使用户难以真正知情。该案例生动地展示了 AI 在医疗垂直领域盲目落地带来的技术不可控性与法律滞后风险。
事件分析
💡 核心观点:在容错率极低的医疗领域,用不成熟的 AI Agent 强行替代传统确定性系统,只会将“提效”变为“致灾”并引发严重的合规危机。
原文链接:Hacker News

评论前必须登录!
立即登录 注册