详细内容或原文请订阅后点击阅览
研究：使用 AI 分配稀缺资源时，随机化可以提高公平性
在基于机器学习模型预测的决策中引入结构化随机化可以解决固有的不确定性，同时保持效率。
来源:MIT新闻 - 人工智能组织越来越多地利用机器学习模型来分配稀缺的资源或机会。例如，这样的模型可以帮助公司筛选简历，以根据其生存可能性选择肾脏移植患者的求职候选人或援助医院。
部署模型时，用户通常会通过减少偏差来确保其预测是公平的。这通常涉及技术，例如调整模型用于做出决策或校准其生成的分数的功能。
但是，麻省理工学院和东北大学的研究人员认为，这些公平方法不足以解决结构不公正和固有的不确定性。在新论文中，他们显示了在某些情况下以结构化的方式随机化模型的决策如何改善公平性。
新纸例如，如果多个公司使用相同的机器学习模型来确定性地对求职候选人进行排名 - 而没有任何随机分组，那么一个值得个人的人可能是每个工作的最底层候选人，也许是因为该模型如何权衡在线形式提供的答案。将随机化引入模型的决定可以阻止一个有价值的人或团体总是被剥夺稀缺资源，例如工作面试。
通过他们的分析，研究人员发现，当模型的决策涉及不确定性或同一群体持续收到负面决策时，随机化可能特别有益。
他们提出了一个可以用来通过加权彩票分配资源的框架将特定数量的随机分配到模型的决策中。个人可以量身定制以适应自己的处境的方法可以提高公平性，而不会损害模型的效率或准确性。
考虑索赔
以前的论文 本文随机化可以克服这些问题，但这并不意味着模型做出的所有决策都应平等地进行。
结构性随机化