详细内容或原文请订阅后点击阅览
医疗算法不得将成本与健康混淆
胡安·安东尼奥·略雷特 | DOI：https://doi.org/10.21428/39829d0b.557cee94 | 2019 年，由医生兼经济学家 Ziad Obermeyer 领导的研究团队对一种已经在美国卫生系统中悄悄运行的商业算法进行了逆向工程。该工具由 Optum 出售，帮助确定每年大约 2 亿人口中的哪些患者会……医疗算法不得将成本与健康混淆 Leer más »
来源:La Biblia de la IA2019 年，由医生兼经济学家 Ziad Obermeyer 领导的研究团队对一种已经在美国医疗系统中悄悄运行的商业算法进行了逆向工程。该工具由 Optum 出售，帮助确定每年大约 2 亿人口中的哪些患者将被标记为需要额外的医疗护理。为了估计谁需要帮助，其设计者做出了一个看起来完全合理的选择：他们使用每个患者过去的医疗保健费用作为未来临床需求的替代品。成本是可衡量的、结构化的并且可大规模使用。逻辑似乎很合理。研究人员表明，这种做法在系统上也是错误的，而且在某种程度上伤害了病情最严重的人。
当医疗算法将管理痕迹误认为临床事实时，它就会变得危险。健康不等于支出。当两名患者患有相同的潜在疾病，但其中一名患者历来接受较少的护理时——由于获取途径较差、覆盖范围较弱、诊断延迟或系统性不平等——费用记录并不代表该疾病。它代表了不平等。 Obermeyer 的团队正是发现了这种模式：该系统平均每年在黑人患者身上的花费比在具有相同需求水平的白人患者上少花费约 1,800 美元。由于它经过了预测成本的训练，因此该算法将较低的支出视为较低的疾病。事实上，被分配相同风险评分的黑人患者病情要严重得多。这种偏见使转诊寻求额外护理的黑人患者数量减少了一半以上。该算法没有纠正不公正现象；它已经了解了这一点，将其正式化，并戴着技术中立的面具将其返回给卫生系统。
喜欢这篇文章吗？关注此博客以获取更多信息。