XiaoMi-AI文件搜索系统
World File Search SystemTimnit
支持 Timnit Gebru 和谷歌的道德人工智能团队
对 Timnit Gebru 和 Google 道德 AI 团队的支持 过去三年来，加州大学伯克利分校的 AFOG 受益于 Google 道德 AI 团队的几位成员参加我们的工作组会议和研讨会。最近，该团队的联合负责人 Timnit Gebru 博士因要求在她和她的团队成员进行的研究的内部审查过程中提高透明度和程序公平性而被解雇。AFOG 小组的成员研究数字技术在社会中的作用，并寻求建立更好、更公平的系统的方法。数十年来的技术史研究表明，技术不可避免地具有政治性。它们以独特的方式构建和调解人与人之间的关系。虽然数字技术具有巨大的潜在效益，但总有缺点、风险和危害需要考虑。这些风险并非均匀分布，而是经常遵循现有权力等级制度。根据我们在此领域的研究，我们了解到：
米歇尔·塞巴格（Michele Sebag）因果模型是生成模型，其中有什么特别的？ 1/53
zeynep tufekci我们正在建立一个反乌托邦，只是为了使人们点击C. O'Neill武器数学破坏武器
人工智能 (AI) 和机器学习 (ML)
1 什么是数据科学？（nd）。检索日期：2020 年 8 月，取自 https://ischoolonline.berkeley.edu/data-science/what-is-data-science/ 2 人脸识别供应商测试 (FRVT 第 3 部分：人口统计影响)，美国国家标准与技术研究所 (Nat. Inst. Of Standards & Tech.)（2019 年 12 月），https://nvlpubs.nist.gov/nistpubs/ir/2019/NIST.IR.8280.pdf。；Joy Buolamwini 和 Timnit Gebru，《性别阴影：商业性别分类的交叉准确度差异》，机器学习研究论文集 81：1-15，公平、问责和透明会议 (2018)，http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf。 3 请参阅，例如《通用数据保护条例》第 22 条（通用数据保护Reg., 2016/679, 第 22 条 (EU) ）。 （确立数据主体有权不受仅基于自动化流程的决策的约束）。 4 参见例如伊利诺伊州《人工智能视频面试法案》（要求在评估就业面试视频时使用人工智能必须经过通知和同意）；以及禁止在随身摄像机视频中使用面部识别技术的州法规——俄勒冈州（ Or. Rev. Stat. § 133.741(1)(D) ）和新罕布什尔州（ NH Rev. Stat. § 105-D:2 ）。
检查针对AI存在风险的流行论点
对人工智能（AI）及其潜在存在风险的关注引起了极大的关注，诸如Geoffrey Hinton和Dennis Hassabis之类的数字提倡对灾难性结果进行强大的保障措施。尼克·博斯特罗姆（Nick Bostrom）和麦克斯·蒂格马克（Max Tegmark）等知名学者通过探索超智能AI的长期影响进一步推动了话语。然而，这种存在的风险叙事面临批评，特别是在流行媒体中，诸如Timnit Gebru，Melanie Mitchell和Nick Clegg之类的学者认为，除其他外，它分散了当前问题的注意力。尽管媒体报道广泛，但对存在风险话语的怀疑却在学术文献中受到了严格的治疗有限。解决这种不平衡，本文重建并评估了三个反对存在风险观点的共同参数：分心论点，人类脆弱的论点以及干预论点的检查点。通过系统地重建和评估这些论点，本文旨在为更平衡的学术话语和对AI的进一步研究提供基础。
人工智能伦理“大卫与歌利亚”：大型科技公司与其员工之间的价值观冲突
摘要 人工智能伦理需要政策制定者、人工智能公司和个人在开发、部署和使用这些技术时采取统一的方法。然而，有时讨论可能会因为不同的治理水平（Schmitt in AI Ethics 1–12, 2021）或因为涉及的价值观、利益相关者和参与者不同（Ryan and Stahl in J Inf Commun Ethics Soc 19:61–86, 2021）而变得支离破碎。最近，这些冲突变得非常明显，例如谷歌解雇人工智能伦理研究员 Timnit Gebru 博士，以及 Facebook 的告密者 Frances Haugen 辞职。每一次失败的背后都是组织的经济和商业利益与员工道德之间的冲突。本文将通过探索该领域的人工智能伦理文献，以及对与人工智能开发人员和从业人员举办的三次研讨会进行定性分析，探讨人工智能组织的伦理与员工价值观之间的紧张关系。本文将讨论常见的伦理和社会紧张关系（例如权力不对称、不信任、社会风险、危害和缺乏透明度），以及如何在实践中避免或减少这些冲突的建议（例如，建立信任、公平分配责任、保护员工的自主权以及鼓励道德培训和实践）。总之，我们建议采取以下步骤来帮助减少人工智能组织内的道德问题：企业内部改进和多样化的道德教育和培训；内部和外部道德审计；建立人工智能道德监察员、人工智能道德审查委员会和人工智能道德监督机构；以及获得值得信赖的人工智能道德举报人组织的访问权限。
Mandi Cai 和 Sachita Nishal。2023 年。新闻业人工智能素养的动机、目标和途径。在 CHI '23 人工智能研讨会上
[1] Stuart Allan。2011 年。《引言：数字时代的科学新闻》。《新闻学》12，7（2011 年 10 月），771–777。https://doi.org/10.1177/1464884911412688 [2] Josh Anderson 和 Anthony Dudo。2023 年。《来自战壕的观点：与记者关于报道科学新闻的访谈》。《科学传播》（2023 年 1 月），107554702211491。https://doi.org/10.1177/10755470221149156 [3] Aviv Barnoy 和 Zvi Reich。2019 年。验证的时间、原因、方式和结果。新闻研究 20, 16 (2019 年 12 月)，2312–2330。https://doi.org/10.1080/1461670X.2019.1593881 出版商：Routledge _eprint：https://doi.org/10.1080/1461670X.2019.1593881。[4] Emily Bender 和 Chirag Shah。2022 年。无所不知的机器是一种幻想。https://iai.tv/articles/all-knowing-machines-are-a-fantasy-auid-2334 [5] Emily M. Bender。2022 年。《华盛顿邮报》对 ChatGPT 的炒作。 https://medium.com/@emilymenonbender/chatgpt-hype-in-the-washington-post- c4e1355ed31b [6] Emily M. Bender。2022 年。纽约时报杂志上的 AI 文章：抵制留下深刻印象的冲动。https://medium.com/@emilymenonbender/on-nyt-magazine- on-ai-resist-the-urge-to-be-impressed-3d92fd9a0edd [7] Emily M. Bender、Timnit Gebru、Angelina McMillan-Major 和 Shmargaret Shmitchell。2021 年。论随机鹦鹉的危险：语言模型会太大吗？。在 2021 年 ACM 公平、问责和透明度会议论文集上。ACM，加拿大虚拟活动，610–623。 https://doi.org/10.1145/3442188.3445922 [8] Deborah Blum。2021 年。科学新闻事业发展。《科学》372，6540（2021 年 4 月）。https://doi.org/10.1126/science.abj0434 [9] Joshua A. Braun 和 Jessica L. Eklund。2019 年。假新闻，真钱：广告技术平台、利润驱动的骗局和新闻业务。《数字新闻》7，1（2019 年 1 月），1-21。https://doi.org/10.1080/21670811.2018.1556314 [10] J Scott Brennen、Philip N Howard 和 Rasmus Kleis Nielsen。 2018. 行业主导的辩论：英国媒体如何报道人工智能。（2018 年）。[11] Michael Brüggemann、Ines Lörcher 和 Stefanie Walter。2020. 后常态科学传播：探索科学与新闻业模糊的界限。科学传播杂志 19, 3 (2020 年 6 月)。https://doi.org/10.22323/2.19030202 [12] Madalina Busuioc。2021. 负责任的人工智能：让算法承担责任。公共管理评论 81, 5 (2021)。https://doi.org/10.1111/puar.13293 [13] Tania Cerquitelli、Daniele Quercia 和 Frank Pasquale（编辑）。2017. 大数据和小数据的透明数据挖掘。大数据研究，第 1 卷。 32. Springer International Publishing，Cham。https://doi.org/10.1007/978-3-319-54024-5 [14] Mark Deuze 和 Charlie Beckett。2022 年。想象力、算法和新闻：培养新闻业的人工智能素养。数字新闻 10，10（2022 年 11 月），1913-1918 年。https://doi.org/10.1080/21670811.2022.2119152 [15] Nicholas Diakopoulos。2015 年。算法问责制。数字新闻 3，3（2015 年 5 月）。https://doi.org/10.1080/21670811.2014.976411 [16] Nicholas Diakopoulos，Daniel Trielli 和 Grace Lee。2021 年。通过半自动化新闻发现工具理解和支持新闻实践。ACM 人机交互论文集 5，CSCW2（2021 年 10 月），1-30。https://doi.org/10.1145/3479550 [17] Wolfgang Donsbach。2012 年。记者的角色认知。《国际传播百科全书》，Wolfgang Donsbach（编辑）。John Wiley & Sons, Ltd，英国奇切斯特，wbiecj010.pub2。https://doi.org/10.1002/9781405186407.wbiecj010.pub2 [18] Sharon Dunwoody。2021 年。科学新闻：数字时代的前景。摘自《劳特利奇公共科学技术传播手册》（第 3 版）。劳特利奇。[19] David Freeman Engstrom、Daniel E. Ho、Catherine M. Sharkey 和 Mariano-Florentino Cuéllar。2020 年。算法政府：联邦行政机构中的人工智能。技术报告。美国行政会议。https://www.ssrn.com/abstract=3551505 [20] Declan Fahy 和 Matthew Nisbet。2011 年。在线科学记者：角色转变和新兴实践。新闻学 12，7（2011 年 10 月）。https://doi.org/10.1177/1464884911412697 [21] Batya Friedman、Peter Kahn 和 Alan Borning。2002 年。价值敏感设计：理论与方法。华盛顿大学技术报告 2 (2002)，第 12 页。出版商：Citeseer。[22] Oscar H. Gandy。1980 年。健康信息：补贴新闻。媒体、文化与社会 2，2（1980 年 4 月）。https://doi.org/10.1177/016344378000200201 [23] Tony Harcup 和 Deirdre O'Neill。2017 年。什么是新闻？：重新审视新闻价值（再次）。新闻研究 18，12（2017 年 12 月），1470–1488。 https://doi.org/10.1080/1461670X.2016.1150193 [24] Ziwei Ji、Nayeon Lee、Rita Frieske、Tizheng Yu、Dan Su、Yan Xu、Etsuko Ishii、Yejin Bang、Andrea Madotto 和 Pascale Fung。 2022.自然语言生成中的幻觉调查。计算。调查（2022 年 11 月）。 https://doi.org/10.1145/3571730 [25] Bronwyn Jones、Rhianne Jones 和 Ewa Luger。 2022.人工智能“无处不在”：解决公共服务新闻中的人工智能清晰度问题。数字新闻 10, 10（2022 年 11 月），1731–1755。 https://doi.org/10.1080/21670811.2022.2145328 [26] Sayash Kapoor 和 Arvind Narayanan。2022 年。人工智能新闻业需要警惕的 18 个陷阱。https://aisnakeoil.substack.com/p/eighteen-pitfalls-to-beware-of-in [27] Percy Liang、Rishi Bommasani、Kathleen Creel 和 Rob Reich。2022 年。现在是制定发布基础模型的社区规范的时候了。https://hai.stanford.edu/news/time-now-develop-community-norms-release-foundation-modelsJohn Wiley & Sons, Ltd，英国奇切斯特，wbiecj010.pub2。https://doi.org/10.1002/9781405186407.wbiecj010.pub2 [18] Sharon Dunwoody。2021 年。科学新闻：数字时代的前景。载于《劳特利奇科学技术公共传播手册》（第 3 版）。劳特利奇。[19] David Freeman Engstrom、Daniel E. Ho、Catherine M. Sharkey 和 Mariano-Florentino Cuéllar。2020 年。算法政府：联邦行政机构中的人工智能。技术报告。美国行政会议。https://www.ssrn.com/abstract=3551505 [20] Declan Fahy 和 Matthew Nisbet。2011 年。在线科学记者：角色转变和新兴实践。新闻学 12，7 (2011 年 10 月)。https://doi.org/10.1177/1464884911412697 [21] Batya Friedman、Peter Kahn 和 Alan Borning。2002 年。价值敏感设计：理论与方法。华盛顿大学技术报告 2 (2002)，12。出版商：Citeseer。[22] Oscar H. Gandy。1980 年。健康信息：补贴新闻。媒体、文化与社会 2，2 (1980 年 4 月)。https://doi.org/10.1177/016344378000200201 [23] Tony Harcup 和 Deirdre O'Neill。2017 年。什么是新闻？：重新审视新闻价值（再次）。新闻研究 18, 12（2017 年 12 月），1470–1488。 https://doi.org/10.1080/1461670X.2016.1150193 [24] Ziwei Ji、Nayeon Lee、Rita Frieske、Tizheng Yu、Dan Su、Yan Xu、Etsuko Ishii、Yejin Bang、Andrea Madotto 和 Pascale Fung。 2022.自然语言生成中的幻觉调查。计算。调查（2022 年 11 月）。 https://doi.org/10.1145/3571730 [25] Bronwyn Jones、Rhianne Jones 和 Ewa Luger。 2022.人工智能“无处不在”：解决公共服务新闻中的人工智能清晰度问题。数字新闻 10，10（2022 年 11 月），1731–1755 年。https://doi.org/10.1080/21670811.2022.2145328 [26] Sayash Kapoor 和 Arvind Narayanan。2022 年。人工智能新闻业需要警惕的 18 个陷阱。https://aisnakeoil.substack.com/p/eighteen-pitfalls-to-beware-of-in [27] Percy Liang、Rishi Bommasani、Kathleen Creel 和 Rob Reich。2022 年。现在是制定发布基础模型的社区规范的时候了。https://hai.stanford.edu/news/time-now-develop-community-norms-release-foundation-modelsJohn Wiley & Sons, Ltd，英国奇切斯特，wbiecj010.pub2。https://doi.org/10.1002/9781405186407.wbiecj010.pub2 [18] Sharon Dunwoody。2021 年。科学新闻：数字时代的前景。载于《劳特利奇科学技术公共传播手册》（第 3 版）。劳特利奇。[19] David Freeman Engstrom、Daniel E. Ho、Catherine M. Sharkey 和 Mariano-Florentino Cuéllar。2020 年。算法政府：联邦行政机构中的人工智能。技术报告。美国行政会议。https://www.ssrn.com/abstract=3551505 [20] Declan Fahy 和 Matthew Nisbet。2011 年。在线科学记者：角色转变和新兴实践。新闻学 12，7 (2011 年 10 月)。https://doi.org/10.1177/1464884911412697 [21] Batya Friedman、Peter Kahn 和 Alan Borning。2002 年。价值敏感设计：理论与方法。华盛顿大学技术报告 2 (2002)，12。出版商：Citeseer。[22] Oscar H. Gandy。1980 年。健康信息：补贴新闻。媒体、文化与社会 2，2 (1980 年 4 月)。https://doi.org/10.1177/016344378000200201 [23] Tony Harcup 和 Deirdre O'Neill。2017 年。什么是新闻？：重新审视新闻价值（再次）。新闻研究 18, 12（2017 年 12 月），1470–1488。 https://doi.org/10.1080/1461670X.2016.1150193 [24] Ziwei Ji、Nayeon Lee、Rita Frieske、Tizheng Yu、Dan Su、Yan Xu、Etsuko Ishii、Yejin Bang、Andrea Madotto 和 Pascale Fung。 2022.自然语言生成中的幻觉调查。计算。调查（2022 年 11 月）。 https://doi.org/10.1145/3571730 [25] Bronwyn Jones、Rhianne Jones 和 Ewa Luger。 2022.人工智能“无处不在”：解决公共服务新闻中的人工智能清晰度问题。数字新闻 10，10 (2022 年 11 月)，1731–1755 年。https://doi.org/10.1080/21670811.2022.2145328 [26] Sayash Kapoor 和 Arvind Narayanan。2022 年。人工智能新闻业需要警惕的 18 个陷阱。https://aisnakeoil.substack.com/p/eighteen-pitfalls-to-beware-of-in [27] Percy Liang、Rishi Bommasani、Kathleen Creel 和 Rob Reich。2022 年。现在是制定发布基础模型的社区规范的时候了。https://hai.stanford.edu/news/time-now-develop-community-norms-release-foundation-models和 Alan Borning。2002 年。价值敏感设计：理论与方法。华盛顿大学技术报告 2（2002 年），12。出版商：Citeseer。[22] Oscar H. Gandy。1980 年。健康信息：补贴新闻。媒体、文化与社会 2，2（1980 年 4 月）。https://doi.org/10.1177/016344378000200201 [23] Tony Harcup 和 Deirdre O'Neill。2017 年。什么是新闻？：重新审视新闻价值观（再次）。新闻研究 18，12（2017 年 12 月），1470–1488。 https://doi.org/10.1080/1461670X.2016.1150193 [24] Ziwei Ji、Nayeon Lee、Rita Frieske、Tizheng Yu、Dan Su、Yan Xu、Etsuko Ishii、Yejin Bang、Andrea Madotto 和 Pascale Fung。 2022.自然语言生成中的幻觉调查。计算。调查（2022 年 11 月）。 https://doi.org/10.1145/3571730 [25] Bronwyn Jones、Rhianne Jones 和 Ewa Luger。 2022.人工智能“无处不在”：解决公共服务新闻中的人工智能清晰度问题。数字新闻 10, 10（2022 年 11 月），1731–1755。 https://doi.org/10.1080/21670811.2022.2145328 [26] Sayash Kapoor 和 Arvind Narayanan。2022 年。人工智能新闻业需要警惕的 18 个陷阱。https://aisnakeoil.substack.com/p/eighteen-pitfalls-to-beware-of-in [27] Percy Liang、Rishi Bommasani、Kathleen Creel 和 Rob Reich。2022 年。现在是制定发布基础模型的社区规范的时候了。https://hai.stanford.edu/news/time-now-develop-community-norms-release-foundation-models和 Alan Borning。2002 年。价值敏感设计：理论与方法。华盛顿大学技术报告 2（2002 年），12。出版商：Citeseer。[22] Oscar H. Gandy。1980 年。健康信息：补贴新闻。媒体、文化与社会 2，2（1980 年 4 月）。https://doi.org/10.1177/016344378000200201 [23] Tony Harcup 和 Deirdre O'Neill。2017 年。什么是新闻？：重新审视新闻价值观（再次）。新闻研究 18，12（2017 年 12 月），1470–1488。 https://doi.org/10.1080/1461670X.2016.1150193 [24] Ziwei Ji、Nayeon Lee、Rita Frieske、Tizheng Yu、Dan Su、Yan Xu、Etsuko Ishii、Yejin Bang、Andrea Madotto 和 Pascale Fung。 2022.自然语言生成中的幻觉调查。计算。调查（2022 年 11 月）。 https://doi.org/10.1145/3571730 [25] Bronwyn Jones、Rhianne Jones 和 Ewa Luger。 2022.人工智能“无处不在”：解决公共服务新闻中的人工智能清晰度问题。数字新闻 10, 10（2022 年 11 月），1731–1755。 https://doi.org/10.1080/21670811.2022.2145328 [26] Sayash Kapoor 和 Arvind Narayanan。2022 年。人工智能新闻业需要警惕的 18 个陷阱。https://aisnakeoil.substack.com/p/eighteen-pitfalls-to-beware-of-in [27] Percy Liang、Rishi Bommasani、Kathleen Creel 和 Rob Reich。2022 年。现在是制定发布基础模型的社区规范的时候了。https://hai.stanford.edu/news/time-now-develop-community-norms-release-foundation-models