XiaoMi-AI文件搜索系统
World File Search SystemKleinberg
人工智能中的公平与偏见
随着人工智能系统使用范围的不断扩大，围绕人工智能公平性和偏见的讨论也愈演愈烈，因为潜在的偏见和歧视也变得越来越明显。本调查研究了人工智能公平性和偏见的来源、影响和缓解策略。多项研究发现人工智能系统存在针对某些群体的偏见，例如 Buolamwini 和 Gebru (2018) 研究的面部识别系统，以及 Dastin (2018) 和 Kohli (2020) 研究的招聘算法。这些偏见可能会加剧系统性歧视和不平等，在招聘、贷款和刑事司法等领域对个人和社区产生不利影响（O'Neil，2016 年；Eubanks，2018 年；Barocas 和 Selbst，2016 年；Kleinberg 等人，2018 年）。研究人员和从业人员提出了各种缓解策略，例如提高数据质量（Gebru 等人，2021 年）和设计明确公平的算法（Berk 等人，2018 年；Friedler 等人，2019 年；Yan 等人，2020 年）。本文全面概述了人工智能偏见的来源和影响，研究了数据、算法和用户偏见及其伦理影响。它调查了当前关于缓解策略的研究，讨论了它们的挑战、局限性以及跨学科合作的重要性。研究人员、政策制定者和学术界广泛认识到人工智能公平性和偏见的重要性（Kleinberg 等人，2017 年；Caliskan 等人，2017 年；Buolamwini 和 Gebru，2018 年；欧盟委员会，2019 年；Schwartz 等人，2022 年；Ferrara，2023 年）。这篇综述论文深入探讨了人工智能中公平性和偏见的复杂和多方面问题，涵盖了偏见的来源、影响和拟议的缓解策略。总体而言，本文旨在通过阐明人工智能中公平性和偏见的来源、影响和缓解策略，为开发更负责任和更道德的人工智能系统做出持续努力。二、人工智能中的偏见来源
更新对现代公平贷款的不同影响
1参见，例如，塔利亚·吉利斯（Talia B.L. R EV。 1175-1263（2022）; Pauline T. Kim，工作中的数据驱动歧视，58 W m。 ＆M Ary L. R EV。 857-935（2017）; Pauline T. Kim，《种族吸引算法：公平，非歧视和平权行动》，110 c al。 L. R EV。 1539-96（2022）; Solon Barocas和Andrew D. Selbst，《大数据的不同影响》，104 c al。 L. R EV。 671-732（2016）; Crystal S. Yang＆Will Dobbie，《算法》中的平等保护：一个新的统计和法律框架，119 M ICH。 L. R EV。 291-396（2020）; Aziz Z. Huq，《算法犯罪案例》中的种族平等，68 D Uke L. J. 1043-1134（2019）。 2一般参见Gillis，前注1； Laura Blattner等人，解开黑匣子：调节算法决策（2021），https：//arxiv.org/pdf/2110.03443.pdf。 3 Gillis，前注1，第1185页。 4这些概念包括校准，“积极阶级的平衡”，“负面阶级的平衡”等。 参见Kleinberg等人，《风险评分公平确定，理论计算机科学会议的第8个创新》（ITCS 2017）的固有权衡，以讨论这三个如何彼此不相容，并且通常也与奇偶校验。L. R EV。1175-1263（2022）; Pauline T. Kim，工作中的数据驱动歧视，58 W m。＆M Ary L. R EV。 857-935（2017）; Pauline T. Kim，《种族吸引算法：公平，非歧视和平权行动》，110 c al。 L. R EV。 1539-96（2022）; Solon Barocas和Andrew D. Selbst，《大数据的不同影响》，104 c al。 L. R EV。 671-732（2016）; Crystal S. Yang＆Will Dobbie，《算法》中的平等保护：一个新的统计和法律框架，119 M ICH。 L. R EV。 291-396（2020）; Aziz Z. Huq，《算法犯罪案例》中的种族平等，68 D Uke L. J. 1043-1134（2019）。 2一般参见Gillis，前注1； Laura Blattner等人，解开黑匣子：调节算法决策（2021），https：//arxiv.org/pdf/2110.03443.pdf。 3 Gillis，前注1，第1185页。 4这些概念包括校准，“积极阶级的平衡”，“负面阶级的平衡”等。 参见Kleinberg等人，《风险评分公平确定，理论计算机科学会议的第8个创新》（ITCS 2017）的固有权衡，以讨论这三个如何彼此不相容，并且通常也与奇偶校验。＆M Ary L. R EV。857-935（2017）; Pauline T. Kim，《种族吸引算法：公平，非歧视和平权行动》，110 c al。L. R EV。 1539-96（2022）; Solon Barocas和Andrew D. Selbst，《大数据的不同影响》，104 c al。 L. R EV。 671-732（2016）; Crystal S. Yang＆Will Dobbie，《算法》中的平等保护：一个新的统计和法律框架，119 M ICH。 L. R EV。 291-396（2020）; Aziz Z. Huq，《算法犯罪案例》中的种族平等，68 D Uke L. J. 1043-1134（2019）。 2一般参见Gillis，前注1； Laura Blattner等人，解开黑匣子：调节算法决策（2021），https：//arxiv.org/pdf/2110.03443.pdf。 3 Gillis，前注1，第1185页。 4这些概念包括校准，“积极阶级的平衡”，“负面阶级的平衡”等。 参见Kleinberg等人，《风险评分公平确定，理论计算机科学会议的第8个创新》（ITCS 2017）的固有权衡，以讨论这三个如何彼此不相容，并且通常也与奇偶校验。L. R EV。1539-96（2022）; Solon Barocas和Andrew D. Selbst，《大数据的不同影响》，104 c al。L. R EV。 671-732（2016）; Crystal S. Yang＆Will Dobbie，《算法》中的平等保护：一个新的统计和法律框架，119 M ICH。 L. R EV。 291-396（2020）; Aziz Z. Huq，《算法犯罪案例》中的种族平等，68 D Uke L. J. 1043-1134（2019）。 2一般参见Gillis，前注1； Laura Blattner等人，解开黑匣子：调节算法决策（2021），https：//arxiv.org/pdf/2110.03443.pdf。 3 Gillis，前注1，第1185页。 4这些概念包括校准，“积极阶级的平衡”，“负面阶级的平衡”等。 参见Kleinberg等人，《风险评分公平确定，理论计算机科学会议的第8个创新》（ITCS 2017）的固有权衡，以讨论这三个如何彼此不相容，并且通常也与奇偶校验。L. R EV。671-732（2016）; Crystal S. Yang＆Will Dobbie，《算法》中的平等保护：一个新的统计和法律框架，119 M ICH。L. R EV。 291-396（2020）; Aziz Z. Huq，《算法犯罪案例》中的种族平等，68 D Uke L. J. 1043-1134（2019）。 2一般参见Gillis，前注1； Laura Blattner等人，解开黑匣子：调节算法决策（2021），https：//arxiv.org/pdf/2110.03443.pdf。 3 Gillis，前注1，第1185页。 4这些概念包括校准，“积极阶级的平衡”，“负面阶级的平衡”等。 参见Kleinberg等人，《风险评分公平确定，理论计算机科学会议的第8个创新》（ITCS 2017）的固有权衡，以讨论这三个如何彼此不相容，并且通常也与奇偶校验。L. R EV。291-396（2020）; Aziz Z. Huq，《算法犯罪案例》中的种族平等，68 D Uke L. J.1043-1134（2019）。2一般参见Gillis，前注1； Laura Blattner等人，解开黑匣子：调节算法决策（2021），https：//arxiv.org/pdf/2110.03443.pdf。3 Gillis，前注1，第1185页。4这些概念包括校准，“积极阶级的平衡”，“负面阶级的平衡”等。参见Kleinberg等人，《风险评分公平确定，理论计算机科学会议的第8个创新》（ITCS 2017）的固有权衡，以讨论这三个如何彼此不相容，并且通常也与奇偶校验。
Ashesh Rambachan
Ashesh Rambachan电子邮件：Asheshr@mit.edu就业2023年至今的经济学系助理教授，M.I.T。2022-2023新英格兰微软研究人员博士后研究员。教育2022博士哈佛大学经济学专业。2017 A.B.，经济学，普林斯顿大学，萨玛兼优异。研究兴趣计量经济学，机器学习。奖学金和奖项2022 David A.威尔斯经济学最佳论文奖。2022年经济研究审查欧洲之旅。2022中国星空之旅。2017-2020国家科学基金会研究生研究奖学金。工作论文“大语言模型：应用计量经济学的观点”（Jens Ludwig和Sendhil Mullainathan）。“与Rahul Singh和Davide Viviano一起进行远程感知的结果评估”。“从预测算法到自动产生异常”（带有sendhil mullainathan）。工作文件。在计量经济学上进行修订和重新提交。“在无法衡量的混淆下对预测算法的强大设计和评估”（与Amanda Coston和Edward Kennedy）。工作文件。修订和重新提交经济学和统计数据。“基于设计的不确定性在准实验中”（与乔纳森·罗斯（Jonathan Roth）一起）。工作文件。在美国统计协会杂志上进行修订和重新提交。“结构IV估计的因果解释”（与以赛亚·安德鲁斯，纳米·巴拉霍纳，马修·绅士和杰西·夏皮罗一起使用）。工作文件。在《经济学季刊》上修订和重新提交。“一种调节算法的经济方法”（与乔恩·克莱恩伯格（Jon Kleinberg），詹斯·路德维希（Jon Kleinberg）和sendhil Mullainathan一起使用）。nber工作文件号27111。“常见时间序列估计何时具有非参数因果意义？” （与尼尔·谢泼德（Neil Shephard）一起）。工作文件。期刊出版物
人工智能的危害
为《牛津人工智能治理手册》准备。我非常感谢许多合著者，他们为我思考这些主题做出了贡献，我在本文中大量参考了他们的工作。他们包括：David Autor、Jonathon Hazell、Simon Johnson、Jon Kleinberg、Anton Korniek、Azarakhsh Malekian、Ali Makhdoumi、Andrea Manera、Sendhil Mullainathan、Andrew Newman、Asu Ozdaglar、Pascual Restrepo 和 James Siderius。我感谢 David Autor、Lauren Fahey、Vincent Rollet、James Siderius 和 Glen Weyl 的评论。我非常感谢谷歌、休利特基金会、美国国家科学基金会、斯隆基金会、史密斯理查森基金会和施密特科学基金会的资金支持。本文表达的观点为作者的观点，并不一定反映美国国家经济研究局的观点。
议程 国家人工智能咨询委员会 (NAIAC) 公开会议
开幕词 Janet Haven，NAIAC 成员兼安全、信任、权利工作组联合主席 第一小组：人工智能安全中的概念：人工智能中“安全”的范围 主持人：Janet Haven，NAIAC 成员 ● Inioluwa Deborah Raji 博士，Mozilla 和加州大学伯克利分校研究员 ● Vincent Conitzer 博士，计算机科学教授，卡内基梅隆大学合作人工智能实验室基础 (FOCAL) 主任 ● Chris Meserole 博士，前沿模型论坛执行主任 ● Arvind Narayanan 博士，普林斯顿大学计算机科学教授 ● Julia Angwin 女士，Proof News 创始人 ● 尊敬的 John C. (“Chris”) Inglis，首任美国国家网络总监 ● Suresh Venkatasubramanian 博士，计算机科学教授，布朗大学技术责任、重新想象和重新设计中心主任 上午 11:25 - 上午 11:30 休息 11:30上午 12:50 - 下午 12:50 第二小组：实施人工智能安全：方法论和组织实践 主持人：Jon Kleinberg，NAIAC 成员
战略分类实用化
请注意，博弈是由模型本身引起的，间接地通过它如何塑造用户激励而对其造成损害。从这个意义上讲，战略分类体现了机器学习如何遵守古德哈特定律，这是一项政策制定原则，指出“当一项措施成为目标时，它就不再是一项好的措施”。因此，战略分类简洁地捕捉了基于学习的系统与其用户之间产生的一种自然形式的紧张关系。最近关于该主题的研究很多，研究了诸如泛化（Sundaram 等人，2020 年；Zhang & Conitzer，2021 年）、均衡和动态（Perdomo 等人，2020 年；Brown 等人，2020 年；Izzo 等人，2021 年；Miller 等人，2021 年）、在线学习（Dong 等人，2018 年；Chen 等人，2019 年；Ahmadi 等人，2020 年）、因果关系和决策结果（Kleinberg & Raghavan，2019 年；Rosenfeld 等人，2020 年；Shavit 等人，2020 年；Bechavod 等人，2020 年；Miller 等人）等方面。 ，2020）、透明度（Ghalme等，2021；Bechavod等，2021）和社会视角（Hu等，2019；Milli等，2019；Chen等，2020）。
已发布版本的引用 (APA)：Avraamidou, L. (2024)。我们能打破人工智能殖民科学教育的势头吗？《科学教学研究杂志》。提前在线出版。https://doi.org/10.1002/tea.21961
几乎每天都有新闻报道一种新的生成式人工智能工具的广告，宣称它将彻底改变科学研究和教育。生成式人工智能是灵丹妙药。人工智能工具可用于提取数据（通常未经同意）、替代研究参与者、阅读论文、总结论文、撰写论文、设计课程计划、管理学生和评估学生等等。生成式人工智能技术正在创造一个技术乌托邦和新的世界秩序。科学界越来越多地利用人工智能工具来改进研究，即通过尝试克服人类的缺点来最大限度提高生产力（Messeri & Crockett，2023 年）。例如，人工智能工具可以通过快速收集和分析大型数据集来增强科学研究。然而，这并非没有代价，因为它对与人工智能算法单一文化相关的科学研究构成了潜在威胁（即，选择和偏好是同质的，因为我们所有人都喜欢同一种音乐、衣服或电影）在算法策展面前（Kleinberg & Raghavan，2021）。因此，尽管有证据表明多样性和多元声音和知识的价值，我们能否想象回到单一文化的科学研究？同样的问题也适用于教育。尽管人工智能技术有可能创新教学，但它们也带来了与数字单一文化主义以及人工智能的道德、包容和公平使用相关的风险和挑战（联合国教科文组织，2023年）。教育机构正在购买生成性人工智能的承诺和幻觉（Alkaissi & McFarlane，2023年），并疯狂地试图赶上人工智能的大规模生产
全球能源市场中的功率脱碳
4我的模型的结构使我可以使用离散的Euler方法（Arcidiacono和Miller，2011; Hsiao，2022; Hall，1978; Scott，2013）从线性回归中恢复出口决定因素。此方法需要派生方程，以比较随后几年的发电机的退出概率。进行的值值差异有限依赖性，因为退出是终端作用，因此存在。5我的设置具有复杂的过渡动力，具有非平稳性，尤其是因为随着时间的推移，可再生入口成本正在下降。要处理该模型时，我利用最近在Benkard，Jeziorski和Weintraub（2024）开发的非平衡均衡概念。这种方法使我能够以计算方式捕获电力部门投资的简短和中等市场动态。它依赖于无限地平线问题的有限范围近似，这也用于宏观经济学文献（Maliar等人。，2020）。6除了液化天然气对全球电力部门排放的影响之外，与这种出口形式的气候足迹相关的重要问题是，液化天然气的液化和运输相对于局部消费，液化天然气的液化和运输会产生额外的甲烷和二氧化碳排放。使用EPA的气候损害衡量标准，我表明，当考虑到液化天然气出口增加产生的额外甲烷排放时，冲击中的社会节省仍然是积极的。如第8节所述，LNG扩展的生命周期评估对甲烷的气候损害相对于碳损伤的重视敏感（Kleinberg，2024）。
人工智能伦理不是万能药
Char, D. S., M. D. Abr amoff 和 C. Feudtner。2020.确定机器学习医疗保健应用的伦理考虑因素。美国生物伦理学杂志 20 (11):7 – 17。doi: 10.1080/15265161.2020.1819469。Fawcett, T. 2006。ROC 分析简介。模式识别快报 27 (8):861 – 874。Hardt, M.、E. Price 和 N. Srebro。2016.监督学习中的机会平等。神经信息处理系统进展 29：3315 – 3323。Kleinberg，J.，和 S. Mullainathan。2019.简单造成不公平：对公平、刻板印象和可解释性的影响。2019 年 ACM 经济与计算会议论文集，807 – 808。Platt，J. C. 1999。支持向量机的概率输出以及与正则化似然方法的比较。在《大边距分类器的发展》中，编辑。A. J. Smola、Peter Bartlett、B. Schölkopf 和 D. Schuurmans，61 – 74。马萨诸塞州剑桥：麻省理工学院出版社。Rajkomar，A.、M. Hardt、M. D. Howell、G. Corrado 和 M. H. Chin。2018 年。确保机器学习的公平性以促进健康公平。内科年鉴 169 (12):866 – 872。Woodworth，B.、S. Gunasekar、M. I. Ohannessian 和 N. Srebro。2017.学习非歧视性预测因子。机器学习研究论文集 65：1920 – 1953。Zhang, B. H., B. Lemoine, 和 M. Mitchell。2018.通过对抗性学习减轻不必要的偏见。2018 年 AAAI/ACM 人工智能、伦理和社会会议论文集，335 – 340。美国路易斯安那州新奥尔良。
南部非洲的生物多样性 - BIOTA AFRICA
(S01) Mile 46 林地大草原 第 1 卷第 70 页 (S02) Mutompo 林地大草原 第 92 页 (S03) Sonop 林地大草原 第 118 页 (S04) Toggekry 荆棘大草原 第 168 页 (S05) Otjiamongombe 荆棘大草原 第 194 页 (S06) Okamboro 荆棘大草原 第 222 页 (S08) Niko North Nama Karoo 第 372 页 (S09) Niko South Nama Karoo 第 384 页 (S10) Gellap Ost Nama Karoo 第 396 页 (S11) Nabaos Nama卡鲁 第 428 页 (S12) Karios „ Nama Karoo 第 452 页 (S16) Wlotzkasbaken „ 纳米布沙漠 第 478 页 (S17) Alpha „ 荆棘稀树草原 第 300 页 (S18) Koeroegap Vlakte „ 多肉卡鲁 第 550 页 (S20) Numees „ 多肉卡鲁 第 572 页(S21) 根真皮 „