机构名称：
¥ 2.0
在本文中，我们首先将公共部门使用人工智能 (AI) 系统定义为长期合理化和官僚化进程的延续和强化。借鉴韦伯的观点，我们认为这些进程的核心是用工具理性取代传统，即实现任何给定政策目标的最可计算和最有效的方式。其次，我们展示了公众和学术界对人工智能系统的批评有多少源于众所周知的韦伯式合理化核心矛盾。为了说明这一点，我们引入了一个思想实验，其中人工智能系统用于优化税收政策以推进特定的规范目标：减少经济不平等。我们的分析表明，建立一个促进社会和经济平等的机器式税收制度是可能的。然而，我们的分析还强调，人工智能驱动的政策优化 (i) 排除了其他竞争性政治价值观，(ii) 凌驾于公民对彼此的 (非工具性) 义务感之上，以及 (iii) 破坏了人类作为自我决定生物的概念。第三，我们观察到，当代旨在确保人工智能系统合法、合乎道德和安全的学术研究和倡导建立并强化了合理化过程所依据的核心假设，包括现代观念，即科学可以扫除压迫性制度，并用理性规则取而代之，从而将人类从道德不公正中拯救出来。这过于乐观：科学只能提供手段——它们不能决定目的。尽管如此，在公共部门使用人工智能也可以使自由民主国家的机构和进程受益。最重要的是，人工智能驱动的政策优化要求规范性目的明确化和形式化，从而使其受到公众的审查、审议和辩论。
人工智能、合理化和控制的极限
主要关键词
相关文件推荐
