详细内容或原文请订阅后点击阅览
基于道德的自动决策系统审计：干预点和政策影响
组织越来越多地使用自动决策系统 (ADMS) 来为影响人类及其环境的决策提供信息。虽然使用 ADMS 可以提高决策过程的准确性和效率，但它也伴随着道德挑战。不幸的是，当前用于监督人类决策的治理机制在应用于 ADMS 时往往会失败。
来源:La Biblia de la IA🔘 论文页面：link.springer.com/article/10.1007/s00146-021-01286-x
🔘 论文页面摘要
«组织越来越多地使用自动决策系统 (ADMS) 来为影响人类及其环境的决策提供信息。虽然使用 ADMS 可以提高决策过程的准确性和效率，但它也伴随着道德挑战。不幸的是，当前用于监督人类决策的治理机制在应用于 ADMS 时往往会失败。在之前的工作中，我们提出基于道德的审计 (EBA)——即评估 ADMS 是否与相关原则或规范一致的结构化过程——可以 (a) 帮助组织验证有关其 ADMS 的声明和 (b) 为决策主体提供 ADMS 产生的输出的理由。在本文中，我们概述了 EBA 程序在实践中可行且有效的条件。首先，我们认为 EBA 最好被理解为一种“软”但“正式”的治理机制。这意味着审计师的主要职责应该是在整个软件开发过程中的关键干预点激发道德审议，并确保有足够的文档来回应潜在的询问。其次，我们将 AMDS 构建为更大的社会技术系统的一部分，以证明要可行且有效，EBA 程序必须链接到涵盖所有组织治理级别和软件生命周期所有阶段的干预点。因此，EBA 的主要功能应该是通知、正式化、评估和互连现有的治理结构。最后，我们讨论了我们的研究结果的政策含义。为了支持可行且有效的 EBA 程序的出现，政策制定者和监管机构可以提供标准化的报告格式，促进知识交流，提供有关如何解决规范紧张关系的指导，并创建一个独立机构来监督 ADMS 的 EBA。»
« « » »