XiaoMi-AI文件搜索系统
World File Search System工具理性
亚里士多德的“工具理性”与人工智能（AI）
(发行日期) 2023-03-31 (资源类型) 部门公告纸 (版本) 记录版本 (JaLCDOI) https://doi.org/10.24546/0100482790 (URL) https://hdl.handle.net/20.500.14094/0100482790
从公众价值观角度看人工智能的应用...
通讯作者 摘要 政府对人工智能 (AI) 的使用代表着治理的根本性转变，精益政府有可能提供高效且具有成本效益的个性化服务。这代表了数字时代治理 (DEG) 的下一个前沿，它是传统官僚模式的延伸，代表了工具理性的数字化表现。然而，人工智能的使用也带来了新的风险和道德挑战（例如有偏见的数据、公平性、透明度、监控国家和公民行为控制），需要政府解决。本章批评了人工智能支持的 DEG。作者主张采用公共价值观视角来管理人工智能道德困境。通过对 30 个政府人工智能实施的跨案例分析，概述了四个主要的人工智能用例。此外，还开发了一个概念模型，该模型确定了人工智能伦理原则与公共价值观之间的关系，这是公民采用人工智能的驱动力。最后，概述了未来研究的六个主张。关键词：人工智能伦理、人工智能用例、人工智能采用、数字时代治理模式、公共部门、公共价值管理、新公共管理、定性综合
人工智能、合理化和控制的极限
在本文中，我们首先将公共部门使用人工智能 (AI) 系统定义为长期合理化和官僚化进程的延续和强化。借鉴韦伯的观点，我们认为这些进程的核心是用工具理性取代传统，即实现任何给定政策目标的最可计算和最有效的方式。其次，我们展示了公众和学术界对人工智能系统的批评有多少源于众所周知的韦伯式合理化核心矛盾。为了说明这一点，我们引入了一个思想实验，其中人工智能系统用于优化税收政策以推进特定的规范目标：减少经济不平等。我们的分析表明，建立一个促进社会和经济平等的机器式税收制度是可能的。然而，我们的分析还强调，人工智能驱动的政策优化 (i) 排除了其他竞争性政治价值观，(ii) 凌驾于公民对彼此的 (非工具性) 义务感之上，以及 (iii) 破坏了人类作为自我决定生物的概念。第三，我们观察到，当代旨在确保人工智能系统合法、合乎道德和安全的学术研究和倡导建立并强化了合理化过程所依据的核心假设，包括现代观念，即科学可以扫除压迫性制度，并用理性规则取而代之，从而将人类从道德不公正中拯救出来。这过于乐观：科学只能提供手段——它们不能决定目的。尽管如此，在公共部门使用人工智能也可以使自由民主国家的机构和进程受益。最重要的是，人工智能驱动的政策优化要求规范性目的明确化和形式化，从而使其受到公众的审查、审议和辩论。
人工智能和正交性带来的生存风险：我们能两全其美吗？
Armstrong, S. (2014)。比我们更聪明。MIRI。Bostrom, N. (2002)。生存风险：分析人类灭绝情景和相关危害。《进化与技术杂志》，9，1-30。Bostrom, N. (2012)。超级智能意志：高级人工智能中的动机和工具理性。《思维与机器》，22（2 - 特别版“人工智能哲学”编辑。Vincent C. Müller），71-85。Bostrom, N. (2013)。生存风险预防是全球优先事项。全球政策，4 (1)，15–31。https://doi。org/10.1111/1758-5899.12002 Bostrom, N. (2014)。超级智能：路径、危险、策略。牛津大学出版社。Bostrom, N.，& Ćirković, M. M.(Eds.)。(2011)。全球灾难性风险。牛津大学出版社。Cave, S. (2020)。智能问题：其价值历史和人工智能的未来。在 AIES '20：AAAI/ACM 人工智能、伦理和社会会议论文集（第29–35 页）。ACM。Chalmers，D. J.(2010)。奇点：哲学分析。《意识研究杂志》，17 (9–10)，7–65。Drexler，E. K. (2019)。重新定义超级智能：综合人工智能服务作为通用智能。FHI 技术报告，2019-1, 1-210。https://www.fhi.ox.ac.uk/wp-content/uploads/Reframming_Superintelligence_FHI-TR-2019- 1.1-1.pdf Eden, A.、Moor, J. H.、Søraker, J. H. 和 Steinhart, E.(Eds.)。(2012)。奇点假设：科学与哲学评估 (The Frontiers Collection)。Springer。Fischer, J. M., & Ravizza, M. (2000)。责任与控制：道德责任理论。剑桥大学出版社。Fox, J., & Shulman, C. (2010)。超级智能并不意味着仁慈。在 K. Mainzer (Ed.中，ECAP10：第八届欧洲计算与哲学会议 (pp.1–7)。Dr Hut。Good, I. J.(1965)。关于第一台超智能机器的推测。在 F. L. Alt & M. Ruminoff (Eds.) 中，计算机的发展 (Vol.6 ，页31–88)。Academic Press。Häggström, O.(2016)。这里有龙：科学、技术和人类的未来。牛津大学出版社。Häggström, O.(2019)。对 Omohundro-Bostrom 人工智能动机框架的挑战。Foresight ，21 (1)，153–166。https://doi.org/10.1108/FS-04-2018-0039 Häggström, O., & Rhodes, C.(Eds.)。(2019)。对人类的生存风险 (Foresight，Vol.21/1 )。Hofstadter, D. R. (1979)。哥德尔、埃舍尔、巴赫：永恒的金色辫子。基础书籍。康德，I.(1786)。道德形而上学的基础。牛津大学出版社。Kurzweil，R. (1999)。精神机器的时代：当计算机超越人类智能时。企鹅。Kurzweil, R. (2005)。奇点临近：当人类超越生物学时。维京人。Legg, S., & Hutter, M. (2007)。通用智能：机器智能的定义。心智与机器，17 (4)，391–