XiaoMi-AI文件搜索系统
World File Search SystemCitron
推荐引用 推荐引用 Kim, Pauline 和 Bodie, Matthew T.，《人工智能与工作场所歧视和隐私的挑战》。35 ABA 劳动和就业法杂志 289 (2021)，圣路易斯大学法律研究论文编号 2021-26。
* Daniel Noyes Kirby 法学教授，华盛顿大学法学院，密苏里州圣路易斯。** Callis Family 教授兼 Wefel 就业法中心联席主任，圣路易斯大学法学院。本文源自纽约大学劳动和就业法中心第 72 届劳工年会“人工智能和自动化——对工作和工人的影响”上的演讲。感谢 Laurie Berke-Weiss、Heather Egan Sussman 和 Michael Gray 担任我们小组的评论员。1.Ryan Calo，《人工智能政策：入门和路线图》，51 U.C.Davis L. R ev .399, 401 (2017)。2.参见 Deborah Hellman，《衡量算法公平性》，106 V a 。L. R ev 。811, 813–14 (2020)（“算法的使用，尤其是它们与机器学习和人工智能的联系，在法律文献中也引起了极大关注。”）。有关文献的一小部分样本，请参阅 Frank P asquale，《B lack Box Society》（2015 年）；Hannah Bloch-Wehba，《访问算法》，88 Fordham L. R ev 。1265 (2020); Danielle Keats Citron 和 Frank Pasquale，《评分社会：自动预测的正当程序》，89 W ash。L. R ev。1 (2014); Aziz Z. Huq，《人类决策权》，106 V a。L. R ev。611, 613 (2020); Sonia K. Katyal，《人工智能时代的私人问责》，66 UCLA L. R ev。54 (2019); David Lehr 和 Paul Ohm，《玩转数据：法律学者应该了解的机器学习知识》，51 U.C.Davis L. R ev。653, 655 (2017)。
技术正当程序
裁决和规则制定的独特且互补的程序是二十世纪行政法的核心。正当程序要求机构向个人提供通知和申辩机会。通过公共规则制定，机构可以排除个人在裁决中可能提出的政策问题。一个系统允许有针对性的倡导；另一个系统则以广泛参与为特色。每种程序制度都弥补了另一种程序的规范限制。两者都依赖于明确的理由陈述。这些程序制度之间的二分法正在迅速过时。本世纪的自动化决策系统将个人裁决与规则制定相结合，同时不遵守任何一方的程序保障。自动化系统危及正当程序规范。由于缺乏有意义的通知，以及听证官倾向于假定计算机系统绝对正确，听证会的价值被贬低。Mathews v. Eldridge 成本效益分析无法比较破译计算机系统逻辑的高固定成本与纠正基于此逻辑做出的无数不准确决定的累积可变收益。自动化也挫败了参与式规则制定。代码，而不是规则，决定了裁决的结果。程序员在将既定规则嵌入代码时不可避免地会对其进行修改，而公众、民选官员和法院无法审查这些规则。上个世纪的程序无法弥补这些问责缺陷。一个新的技术正当程序概念对于证明 ∗ © Danielle Keats Citron 的正当程序至关重要。马里兰大学法学院法学助理教授。Richard Boldt、Maxwell Chibundu、John Henry Clippinger、Karen Czapanskiy、Lisa Fairfax、Jon Garfunkel、Mark Graber、Debbie Hellman、Bob Kaczorowski、Gene Koo、Dan Markel、Helen Norton、Frank Pasquale、Doc Searls、Jana Singer、Max Stearns、David Super、Michael Van Alstine 和 Greg Young 的评论极大地改善了本文。我感谢 Andy Bardwell、Val Greenfield、Ed Kahn、Jennifer Lang、Don McCubbrey、Nan Morehead、Melissa A. Rodgers 和 Ed Stevens，他们慷慨地与我分享了他们在自动决策系统方面的专业和实践知识。Jonathan Bliley、Pamela Bluh、Adam Coleman、Alice Johnson、Susan McCarty、Janet Sinder 和 Peter Suh 提供了出色的研究协助。我非常感谢 Karen Rothenberg 院长和马里兰大学法学院对这项研究的支持。我曾向哈佛大学法学院伯克曼互联网与社会研究中心、斯泰森法学院教职员工以及马里兰大学法学院青年教职员工研讨会提交过本文的早期版本，这些会议的讨论让我受益匪浅。我非常感谢《华盛顿大学法律评论》的编辑人员，特别是 Jess Feinberg、Ele Forbes、Laura Uberti、Matt Walczewski 和 Ben Warr，感谢他们对本文的宝贵贡献。