机构名称：
¥ 1.0
目前，算法的广泛应用是对模糊概念（如优点）进行正式和定量的衡量，以便做出决策。当人们为了获得有利的决策结果而对这类评估做出战略性回应时，他们的行为可能会受到道德判断。他们可能被描述为“玩弄系统”或“作弊”，或者（在其他情况下）投入“诚实的努力”或“改进”。关于战略行为的机器学习文献试图通过强调决策主体为获得更有利的评估而付出的努力来描述这些动态——一些研究提供了预防或防止此类操纵的方法，一些研究将“玩弄”与“改进”行为区分开来，而另一些研究则旨在衡量分类系统的努力负担或不同影响。我们从不同的出发点开始：评估本身的设计可以理解为促进评估者的目标，而这些目标可能与更广泛的社会目标不一致。为了阐明评估代表一种战略互动的观点，在这种互动中，评估者和评估对象都是出于自身利益，我们提出了一个模型，该模型使用三个相互作用的主体来表示评估过程：决策主体、评估者和社会，代表一套价值观和监督机制。我们强调了我们的模型对一系列社会系统的适用性，在这些系统中，一两个参与者策略性地破坏其他参与者的利益以促进自己的利益。将评估者视为战略参与者使我们能够重新审视决策主体，关注评估制度设计所依据的动机。在实践中，战略行为的道德地位往往取决于评估的道德地位以及引发这种行为的动机。我们将我们的框架应用于各种扩展示例并讨论道德含义。
战略评估：主体、评估者和社会
主要关键词
相关文件推荐
