加拿大安大略省审计局发布报告,披露了当地医疗AI项目中存在的严重问题。在对20款获批的AI笔记系统进行评估时发现,这些工具表现极差:60%搞混处方药,超半数遗漏心理健康关键细节,甚至有9款系统凭空捏造病情和治疗建议。审计指出,问题的根源在于荒谬的评分体系:供应商的“本地存在”权重高达30%,而“医疗记录准确性”仅占4%。这种本末倒置的采购标准,让准确性堪忧的AI系统得以进入关键医疗领域,引发了极大的安全隐患。
原文链接:Hacker News
加拿大安大略省审计局发布报告,披露了当地医疗AI项目中存在的严重问题。在对20款获批的AI笔记系统进行评估时发现,这些工具表现极差:60%搞混处方药,超半数遗漏心理健康关键细节,甚至有9款系统凭空捏造病情和治疗建议。审计指出,问题的根源在于荒谬的评分体系:供应商的“本地存在”权重高达30%,而“医疗记录准确性”仅占4%。这种本末倒置的采购标准,让准确性堪忧的AI系统得以进入关键医疗领域,引发了极大的安全隐患。
原文链接:Hacker News
评论前必须登录!
立即登录 注册