为什么我们应该专注于女性的AI

一项关于在AI中根深蒂固的性别差异的模拟研究。为什么我们应该专注于AI的女性,首先是迈向数据科学的AI。

来源:走向数据科学

故事始于我上周日与女友进行的对话。她对医学研究感兴趣,提到妇女常常被诊断为中风。女性中通常有许多虚假的阴性病例,因为最初的中风研究主要是针对男性受试者进行的。结果,在女性中看到的症状通常与男性观察到的症状不同。

在皮肤癌诊断中也观察到了类似的问题。肤色较深的个体被正确诊断的机会较小。

这样的示例表明,数据收集和研究设计中的偏见如何导致有害结果。我们生活在一个几乎每个域中AI都存在的时代 - 不可避免的是将有偏见的数据馈入这些系统。我什至见证了医生在撰写处方时使用聊天机器人工具作为医疗助手。

从这方面,在不同群体(例如基于性别或种族的人)之间对主题或主题进行了充分研究之前,将其不完整的发现与AI系统的不完整有关,无论是科学和道德上都带来了重大风险。 AI系统不仅倾向于继承现有的人类认知偏见,而且可能会无意中扩大并置于其技术结构中。

在这篇文章中,我将根据自己的个人经验进行案例研究:考虑男女的不同热舒适度,定义办公楼中的最佳温度。

案例研究:热舒适

现在,我们将设计一个仿真实验,以显示性别包容性在定义热舒适以及其他现实世界情景中的重要性。

作者的图像:实验流程图

仿真设置

男性:21–23°C(以22°C为中心)女性:23–25°C(以24°C为中心)

从定义上讲,温度从该范围的中心移动的越远,舒适得分就越降低。

  • 将温度降低1°C
  • 保持温度
  • 结果

    结论