安大略省审计揭露:医生AI笔记工具频现幻觉,采购标准竟重“本地身份”轻“准确性”

加拿大安大略省审计局发布报告,披露了当地医疗AI项目中存在的严重问题。在对20款获批的AI笔记系统进行评估时发现,这些工具表现极差:60%搞混处方药,超半数遗漏心理健康关键细节,甚至有9款系统凭空捏造病情和治疗建议。审计指出,问题的根源在于荒谬的评分体系:供应商的“本地存在”权重高达30%,而“医疗记录准确性”仅占4%。这种本末倒置的采购标准,让准确性堪忧的AI系统得以进入关键医疗领域,引发了极大的安全隐患。

原文链接:Hacker News

抢沙发

评论前必须登录!

立即登录   注册