随着Kaiser Permanente和Rogers Behavioral Health等大型医疗机构加速引入AI算法进行分诊,心理健康一线工作者发出严厉警告。员工指出,自动化工具虽然削减了人力成本,却导致了危险的后果:具有自杀风险的患者被错误分配至低强度护理课程,急需帮助的患者被APP(如Calm)延误治疗,大量患者因无法获得及时人工干预而病情恶化。工会正在通过谈判争取限制AI仅作为“辅助”而非“替代”手段。同时,加州立法机构正在推进AB 2575等法案,试图强制要求医疗AI的透明度,并赋予临床医生推翻算法建议的权利,将因AI造成的患者伤害责任明确归于医疗机构和开发者。
事件分析
核心观点:在涉及生命安全的医疗决策中,缺乏人工兜底的AI自动化不仅无法解决资源短缺,反而在算法与患者之间制造了致命的“断层”。
原文链接:Hacker News


评论前必须登录!
立即登录 注册