1 D.布拉德利·麦克威利亚姆斯生物医学信息学学院,德克萨斯大学健康科学中心(UTHEALTH),休斯敦,德克萨斯州休斯敦2内科医学,休斯敦大学德克萨斯大学健康科学中心(UTHealth)John P.和Kathrine G. McGovern医学院,德克萨斯州休斯顿,德克萨斯州,美国4 4 4 4 4,休斯敦大学卫生科学中心(UTHealth)公共卫生学院,休斯敦,休斯敦,休斯敦,德克萨斯州休斯顿大学,德克萨斯州,德克萨斯州,州5美国德克萨斯州休斯顿公共卫生学院
2022 多样性、公平、包容和正义影响奖,获得者 麻省理工学院 BCS 2021 惠特克健康科学基金奖学金,获得者(一年的博士学位资助) 麻省理工学院 2019 帕特里克·麦戈文学生旅行奖,获得者 麦戈文研究所 2019 安格斯·麦克唐纳本科教学卓越奖,获得者 麻省理工学院 BCS 2018 “麻省理工学院能说话”演讲比赛,获胜者 麻省理工学院 2017 IEEE 波士顿脑数据库竞赛,获胜团队 马萨诸塞州剑桥 2015 路易斯·波普本科神经科学暑期研究奖学金,获得者 迈阿密大学 2015 Phi Beta Kappa,迈阿密大学成员 2014 超越书本奖学金,获得者(暑期研究资助) 迈阿密大学 2013 艾萨克·巴什维斯·辛格奖学金,获得者(4 年全额学费) 迈阿密大学 2012 全俄高中生生物奥林匹克竞赛,获胜者(第五名)俄罗斯 2011 全俄高中生生物奥林匹克竞赛,获胜者(第一名)俄罗斯 2011 创始人奖学金获得者(两年学费的 50%)EF 学院
1美国纽黑文耶鲁大学精神病学系; 2美国纽黑文市耶鲁大学跨部门神经科学计划; 3美国纽约市纽约市城市大学; 4在美国纽约的Stony Brook University的神经科学计划; 5美国贝塞斯达国家神经系统疾病与中风研究所(NINDS); 6美国贝塞斯达国家心理健康研究所(NIMH); 7中国北京的中国大脑研究所(CIBR); 8中国北京北京大学生命科学学院膜生物学国家主要实验室; 9 PKU-IDG/MCGOVERN脑研究所,中国北京; 10北京北京北京大学高级跨学科研究学院生命科学中心Peking-Tsinghua中心; 11美国纽黑文耶鲁大学医学学院比较医学1美国纽黑文耶鲁大学精神病学系; 2美国纽黑文市耶鲁大学跨部门神经科学计划; 3美国纽约市纽约市城市大学; 4在美国纽约的Stony Brook University的神经科学计划; 5美国贝塞斯达国家神经系统疾病与中风研究所(NINDS); 6美国贝塞斯达国家心理健康研究所(NIMH); 7中国北京的中国大脑研究所(CIBR); 8中国北京北京大学生命科学学院膜生物学国家主要实验室; 9 PKU-IDG/MCGOVERN脑研究所,中国北京; 10北京北京北京大学高级跨学科研究学院生命科学中心Peking-Tsinghua中心; 11美国纽黑文耶鲁大学医学学院比较医学
a 北京师范大学认知神经科学与学习国家重点实验室,北京 100875 b 北京师范大学脑成像与连接组学北京市重点实验室,北京 100875 c 北京师范大学 IDG/麦戈文脑研究所,北京 100875 d 北京师范大学系统科学学院,北京 100875 e 之江实验室健康大数据科学研究中心,杭州 311121 f 大连理工大学生物医学工程学院,大连 116024 g 浙江大学生物医学工程与仪器学院、生物医学工程教育部重点实验室脑成像科学与技术中心,杭州 310027 h 北京大学前沿交叉学科研究院磁共振成像研究中心,北京 100871 i 北京大学物理学院重离子物理研究所、北京市医学物理与工程重点实验室北京 100871 j 北京大学 IDG/麦戈文脑研究中心,北京 100871 k 中国科学院脑科学研究中心,北京 102206
2 麻省理工学院麦戈文脑研究所,美国马萨诸塞州剑桥 3 哈佛大学言语和听觉生物科学与技术 (SHBT) 项目,美国马萨诸塞州波士顿 4 哈佛大学肯普纳自然与人工智能研究所,美国马萨诸塞州奥尔斯顿 5 纽约大学心理学系,美国纽约州纽约 6 哈佛大学心理学系,美国马萨诸塞州剑桥 7 哈佛医学院麻省总医院神经外科系,美国马萨诸塞州波士顿 致谢:作者感谢 Josh McDermott、Sam Gershman、Nancy Kanwisher、Niko Kriegeskorte、Tal Golan、Alex Williams、Andrew Lampinen、Chengxu Zhuang、Cory Shain、Martin Schrimpf 及其团队、Stanislas Dehaene 及其团队以及 CCN 2023(英国牛津)和 Ascona 2024(瑞士阿斯科纳)的观众提供的有益评论和讨论。EH、CC、NZ、MR 和 EF 部分由 NIH 拨款 U01-NS121471 资助。CC 获得哈佛大学肯普纳自然和人工智能研究所的奖学金资助。NZ 获得麻省理工学院 K. Lisa Yang 综合计算神经科学 (ICoN) 中心的博士后奖学金资助。EF 还获得麻省理工学院麦戈文脑研究所、智力探索、脑与认知科学系和西蒙斯社会脑中心的资金资助。
Error 500 (Server Error)!!1500.That’s an error.There was an error. Please try again later.That’s all we know.
这项工作本质上是协作性的。作为研究人员、召集人和推动者,IST 非常感谢该工作组的成员,感谢他们的洞察力、奉献精神、愿意参与诚实和健康的辩论,以及他们每个人慷慨地为这项工作付出的时间。通过共同努力确定风险出现的位置以及风险可能继续加剧的位置,他们的贡献使这一过程取得了成果。我们也非常感谢 Patrick J. McGovern 基金会的慷慨支持,他们的资金使我们能够通过 IST 的应用信任和安全计划的视角继续这个项目。AI 是一套过于庞大的工具、能力和社区,任何一个组织都无法独自管理风险和机遇。这项工作反映了整个生态系统需要更广泛地跨部门、公私合作的努力,以确保 AI 对我们所有人都有益。
AIG:总裁兼首席执行官 Peter Zaffino Allianz:首席执行官 Oliver Bäte Amwins:首席执行官 Scott Purviance Aon:首席执行官 Greg Case Ascot:首席执行官 Andrew Brooks AXA:首席执行官 Sean McGovern UK & Lloyd's、AXA XL 首席执行官 Beazley:首席执行官 Adrian Cox Conduit Re:执行主席 Neil Eckert Direct Line Group:首席执行官 Penny James Hiscox:首席执行官 Bronek Masojada Howden Group:首席执行官 David Howden Legal & General:首席执行官 Nigel Wilson Lloyd's:首席执行官 John Neal Marsh McLennan:总裁兼首席执行官 Dan Glaser Munich Re:首席执行官 Joachim Wenning Phoenix:集团首席执行官 Andy Briggs Tokio Marine Kiln:首席执行官 Brad Irick Aon Reinsurance Solutions:全球主席 Dominic Christian 保险发展论坛:秘书长 Ekhosuehi Iyahen
1心理学学院,心理应用研究中心和心理健康和关键实验室,广东省南部师范大学,广州,510631,中国210631,2,富州大学,富裕大学,350108,350108,350108,330108,330108心理学与认知科学学院,东中国师范大学,上海,200062年,中国,5个心理和认知科学学院,北京大学,北京,100871,中国,6北京行为与心理健康实验室,北京北京大学,北京大学,北京,100871,100871,中国,ZHEJIAN,ZHEJIAN,ZHEJIAN,ZHEJIAN,ZHEJIAN,ZHEJIAN,32 China, 8 PKU-IDG/McGovern Institute for Brain Research, Peking University, Beijing 100871, China, 9 Department of Management, Hong Kong Baptist University, Hong Kong, 1123, China, 10 Department of Sport, Physical Education and Health, Hong Kong Baptist University, Hong Kong, 1123, China and 11 Department of Physics, Hong Kong Baptist University, Hong Kong, 1123, China
过去几年,人工智能 (AI) 和机器学习 (ML) 在地球科学中的应用呈指数级增长。在本文的其余部分,我们将 AI/ML 更笼统地称为 AI。至关重要的是,AI 开发人员必须以合乎道德和负责任的方式创建方法,以免 AI 以可能造成伤害的方式开发和部署。在这项工作中,我们以我们早期的研究 (McGovern 等人,2022) 为基础,该研究展示了 AI 在环境科学和地球科学应用中可能出错的多种方式。在这里,我们特别关注偏见问题,因为它是最近许多关于道德 AI 的工作的关键线索之一(例如,Peng 等人,2021 年;McGovern 等人,2022 年;Balagopalan 等人,2022 年;Almuzaini 等人,2022 年;Buolamwini,2023 年)。偏见被认为是开发合乎道德和负责任的人工智能时必须解决的一个关键问题。它是美国国家标准与技术研究院 (NIST) 在制定可信人工智能标准 (Schwartz 等人,2022 年) 时讨论的关键问题之一,并在新的人工智能行政命令中得到了解决。1 对于地球科学应用而言,考虑偏见相对较新 [参见最近的美国地球物理联盟人工智能指南 (Stall 等人,2023 年)]。有偏见的人工智能模型会以多种方式造成伤害,包括影响人们获得工作、拥有稳定住房等的能力。有关此类影响的示例,请参阅 O'Neil (2016)、Eubanks (2018)、Benjamin (2019) 和 Kantayya (2020)。当带有负面偏见的模型被部署并成为新闻时,它们会削弱公众对人工智能的整体信任。私营企业和政府都已经部署了此类模型。创建和理解值得信赖的人工智能是参与这项工作的每个人的重点,因为他们都是美国国家科学基金会天气、气候和沿海海洋学可信人工智能研究所 (AI2ES) 的成员。我们在这项工作中的总体目标与确保地球科学人工智能值得信赖的目标紧密相关:确保现在开发和部署的模型尽可能没有有害偏见。乍一看,与更广泛的人工智能应用相比,偏见似乎不是地球科学人工智能的问题。最近的研究表明,人工智能可以在气象学、气候、水文学、地震学等各种应用中取得成功