1 13859年的行政命令(“在AI中维持美国领导力”,由特朗普总统于2019年2月发布,重点介绍了美国AI倡议的五个基本原则之一(第1(c)节)。eo 13859还概述了联邦机构支持培训和教育计划以追求这一目标的战略目标(第2(e)节,第7节)。2行政命令13960(“促进联邦政府中可信赖的人工智能使用”)由特朗普总统于2020年12月发布,建立了一个框架,用于使用AI改善政府行动,同时“促进公共信任……并保持与所有适用的法律保持一致,包括与隐私权,公民权利,公民自由和第2节相关的所有适用法律”(一项)(一项)(一项)(一项)(一项)。该命令的第7节概述了旨在提高政府AI实施专业知识的几项倡议。此外,特朗普总统于2020年6月发布了13932年的行政命令(“现代化和改革联邦求职者的评估和招聘”),以促进技能和基于能力的联邦招聘实践,以更好地满足不断发展的联邦劳动力需求。3行政命令13859强调了对AI的技术突破的必要性,以促进科学发现,经济竞争力和国家安全;这是美国AI倡议的第一个原则(第1(a)节)。然后,该命令为联邦机构建立了一个战略目标,以通过对AI R&D的投资和AI的应用来推进这一原则(第2(a)节,第4、5节)。在此基础上,特朗普总统的2021财年预算包括在广泛的代理商中的非防御AI R&D投资大幅增加。总统2021财年预算的网络与信息技术研究与发展(NITRD)补充提供了有关这些投资的更多详细信息。
然而,我们知道这些人工智能系统可能很脆弱且不公平。在停车标志上添加涂鸦会欺骗分类器,使其认为这不是停车标志 [Eykholt 等人2017]。在良性皮肤病变图像中添加噪声会欺骗分类器,使其认为它是恶性的 [Finlayson 等人 2019]。美国法院使用的风险评估工具已被证明对黑人存在偏见 [Angwin 等人2016]。企业招聘工具已被证明对女性存在偏见 [Dastin 2018]。那么,我们如何才能兑现人工智能带来好处的承诺,同时解决这些对人类和社会产生重大影响的情况呢?简而言之,我们如何实现可信赖的 AI?1.从可信赖计算到可信赖的 AI 具有里程碑意义的 1999 年国家科学院网络空间信任报告为可信赖计算奠定了基础,并继续成为一个活跃的研究领域 [NRC 1999]。美国国家科学基金会启动了一系列关于信任的项目。从可信赖计算(2001 年启动)开始,然后是网络信任(2004 年),然后是可信赖计算(2007 年),现在是安全和可信赖系统(2011 年),计算机和信息科学与工程理事会已经发展了可信赖计算的学术研究社区。尽管它始于计算机科学界,但对可信计算研究的支持现已涵盖 NSF 的多个理事会,并涉及许多其他资助组织,包括通过网络和信息技术研究与开发 (NITRD) 计划的 20 个联邦机构。行业也是可信计算的领导者和积极参与者。凭借比尔盖茨 2002 年 1 月的“可信计算”备忘录 [Gates 2002],微软向其员工、客户、股东和其他信息技术部门发出了可信软件和硬件产品的重要性。它提到了微软内部
人工智能在过去的几十年里,人工智能取得了巨大的进步,如今它有望带来更好、更准确的医疗保健,增强国家安全,改善交通运输和更有效的教育,这些只是其中的几个好处。为确保美国在人工智能领域继续保持全球领导地位,近一年前,白宫公布了美国人工智能计划,即我们国家的人工智能战略,该计划在过去一年中取得了重大进展。首先,该计划优先投资人工智能研发,正如总统的 2020 财年预算请求所示,其中包括近 10 亿美元的非国防人工智能研发。总统 2020 财年预算的网络和信息技术研究与发展计划 (NITRD) 补充文件中对这些人工智能投资进行了详细的逐机构细分,这是首次对非国防人工智能研发投资进行此类报告。这一报告流程为跟踪美国未来人工智能研发支出提供了重要的机制和基准。 《2016-2019 年人工智能研发进展报告》显示了联邦政府在人工智能领域的投资广度和深度,这些投资正在改变该领域的现状。这些投资集中在政府 2019 年 6 月发布的《国家人工智能研发战略计划》中概述的关键战略重点领域。有影响力的研发投资包括国防高级研究计划局 (DARPA) 的 20 亿美元 AI Next 运动(2018 年 9 月);美国国家科学基金会与国土安全部、交通部、退伍军人事务部和美国农业部 (USDA) 合作启动国家人工智能研究机构计划(2019 年 10 月);美国国家海洋和大气管理局发布的人工智能战略(2019 年 11 月);美国国立卫生研究院的数据科学战略计划(2018 年 6 月);以及国防部 (DOD) 联合人工智能中心的建立(2018 年 6 月)。为了确保联邦在人工智能研发方面的活动得到强有力的协调,白宫特许成立了人工智能特别委员会(2018 年 5 月),该委员会定期开会监督和确定联邦在人工智能方面的研发活动的优先顺序。其次,人工智能计划正在释放联邦资源用于人工智能研发,包括改善公众获取高质量联邦数据的渠道,从而推动更多的人工智能研究和测试。为了收集公众对这一过程的意见,白宫发布了关于联邦人工智能研发和测试数据和模型的信息请求(2019 年 7 月)。这些反馈现在被用于寻求增加联邦数据和模型的访问和使用机会,同时保护安全、保密和机密性。第三,该计划正在消除人工智能创新的障碍。2020 年 1 月 13 日,白宫就向联邦机构提出的关于管理私营部门人工智能开发和使用的监管和非监管政策的拟议指导意见征询公众意见。最终确定后,该指导意见将确保各机构在监管由人工智能赋能或推动的技术和工业部门之前,考虑减少人工智能开发和采用障碍的方法。白宫的指导意见草案还为支持美国创新的人工智能应用管理制定了政策原则,同时适当保护隐私、公民自由和美国价值观,并允许采取针对特定行业和应用的方法。这些原则促进了可信赖的人工智能的发展,并要求监管机构在考虑与人工智能相关的任何行动时考虑公平性、透明性和安全性。