详细内容或原文请订阅后点击阅览
考虑医疗数据中的偏见有助于防止人工智能扩大种族差异
密歇根大学的研究人员表明，黑人患者接受医生用来诊断严重疾病（如败血症）的医学检查的可能性低于白人患者。
来源:密歇根大学由于不平等的医学测试，一些患病的黑人患者可能在AI数据集中被标记为“健康”
黑人患者比白人患者接受医生用来诊断严重疾病的医学检查的可能性较小。
由于存在偏见，假定一些患病的黑人患者在用于训练AI的数据中很健康，而由此产生的模型可能低估了黑人患者的疾病。但这并不意味着数据是无法使用的 - 同一组开发了一种方法来纠正用于训练AI的数据集的偏见。
这些新见解在一项研究中报道：一项今天在PLOS全球公共卫生中发表，另一个在2024年7月在奥地利维也纳的机器学习会议上介绍。
机器学习国际会议在PLOS研究中，研究人员发现，白人患者的医疗测试率比相同年龄，性别，医疗投诉和急诊科分类分数的黑人患者高4.5％，这是对患者医疗需求的紧迫性的衡量。医院入院率部分解释了这种偏见，因为白人患者比黑人患者更有可能被评估为患病并入院。
“如果有系统地承诺的患者子组，那么您将这种偏见烘烤到模型中，” U-M计算机科学和工程学副教授，研究的作者Jenna Wiens说。
“调整此类混杂因素是一种标准的统计技术，但通常在训练AI模型之前没有进行。在训练AI时，要确认可用数据的缺陷并考虑其下游含义非常重要。”
重症监护的医学信息收长 Trenton Chang该研究由美国国立卫生研究院资助。