监管试验工具用于在现有监管结构之外测试新的经济、制度和技术方法以及法律规定。本报告重点介绍监管沙盒,即监管机构让企业测试挑战现有法律框架的创新产品或服务。参与的企业可获得特定法律规定或合规流程的豁免,以进行创新。本报告介绍了金融科技监管沙盒的经验教训及其积极影响,例如促进风险资本对金融科技初创企业的投资。它涵盖了实施监管沙盒及其测试流程所涉及的挑战和风险。本报告介绍了人工智能监管沙盒的政策考虑因素,包括机构跨学科合作以及在监管机构内建立人工智能专业知识的必要性。研究结果强调了监管互操作性的必要性以及贸易政策可以发挥的作用。最后,它讨论了确定沙盒资格和评估试验的综合标准的必要性,以及沙盒对创新和竞争的潜在影响。
“人工智能” (AI) 包括一组技术概念,通常可以通过其自动化人类能力来理解。近年来,越来越多的政府机构将人工智能系统纳入其监管执法流程。这些应用的一些例子包括美国证券交易委员会,该委员会使用机器学习工具来识别可疑文件或内幕交易,以及美国环境保护局,该机构正在试验自动化设施检查目标。这些系统的潜在效率收益很容易理解,特别是在公众要求行政国家用更少的资源做更多事情的背景下。它们还可能提供机会扩大政府机构的处理能力,以新颖和前所未有的方式提高研究和分析能力。在监管目标日益复杂的情况下,这种改进可能是必要的。然而,尽管人工智能系统具有所有潜在的好处,但它也引发了许多难题。特别是,人们担心人工智能对决策公平性的影响。除了偏见、偏差和准确性等众所周知的挑战外,透明度、问责制和程序公平性也存在根本问题。在公众对政府以及我们更广泛的公共机构的信任度下降到临界水平的时候,这些系统进一步侵蚀人民与行政国家之间关系的可能性应该得到极其认真的考虑。我们应该欢迎公共服务提供方面的创新。然而,负责任和负责任的政府需要就使用人工智能执行关键政府任务进行公开讨论,特别是在监管执法方面,其中正当程序考虑至关重要。有效的跟踪和协调是提供这些技术用例完整图景的必要第一步。必要的第二步是建立一套健全的流程,对已经试行的人工智能系统进行审计和评估,以诚实地评估其成功和失败。审计和评估对于指导下一代实施非常重要。最终,行政机构以及我们各级政府的目标应该是制定一个有效、透明且相对一致的决策框架,以规范公共部门人工智能的使用。在制定一个强有力的人工智能监管执法治理框架时,有许多有用的国际模式可供借鉴。其中包括自 2019 年以来实施的加拿大《自动决策指令》。并要求建立健全基于风险的评估流程,并根据评估结果确定相应的责任。欧盟的《人工智能法案》是另一个众所周知的基于风险的模型,加利福尼亚州、马里兰州、伊利诺伊州和华盛顿州等多个州都提出了自己的框架,以解决和缓解与这些技术相关的治理和问责挑战。早在 2016 年,联邦政府就已颁布了多项行政命令,要求政府负责任地使用人工智能,但最重要的举措是制定具体、可操作的协议,规定行政国家应如何以监管方式对待人工智能
I. 引言 在联邦政府中,人工智能 (AI) 已在各种行政流程和程序中扎根。在公众被人工智能的可能性和危险所吸引的同时,各机构已将该技术融入到广泛的机构职能中。2020 年,美国行政会议 (ACUS) 委托撰写的一份报告发现,64 个联邦机构中有 157 个使用人工智能的案例。1 仅仅两年后,美国政府问责局 (GAO) 的一项调查发现,超过 1,200 个当前和计划中的使用案例,其中 NASA 和商务部处于领先地位。2 ACUS 或 GAO 委托进行的研究可能仅呈现了人工智能在联邦政府中应用的部分情况。就人工智能对政府运作方式的长期影响而言,今天发生的事情可能也只是冰山一角。虽然人们欢迎以创新和进步的方式提供公共服务,但人工智能在监管执法中的广泛使用也会带来自然的权衡,包括违背公众信任、正当程序和专业知识等价值观——以及行政机构在美国宪法体系中地位的基础——以及基本的人性。3 需要对将人工智能纳入调查和执法活动的利弊进行仔细的机构分析。这些对话应该是公开的,应该超越主导当前评估模式的狭隘的、基于风险的分析,鼓励对机构的性质、机构通过日益依赖人工智能可能放弃什么以及对公众信任、合法性和公平性等关键价值观的整体影响进行长期思考。机构的考虑还应包括仔细和批判性地评估这些工具可能在哪些方面有效,而不是假设技术驱动的解决方案必然会改善运营。本文试图提供一个初步框架来评估人工智能在监管执法中的作用,并为考虑为此目的引入或扩大人工智能使用的机构提供建议。
但如果所有其他地区的偏差和辅助服务池账户中的盈余金额不足以弥补该赤字,则应从提取 DIC 的余额中收回余额 - (i)从本条例生效之日起至 2026 年 3 月 31 日期间,按 [50% 占 ISTS 外围提取额的比例] 和 [50% 占 GNA 的比例] 的比例收回;以及(ii)从 2026 年 4 月 1 日起,按 NLDC 分配给此类 DIC 的储备金短缺比例收回:
本报告专门讨论了理想特性的开发,并列出了对示例数字系统进行首次可靠性研究的过程。这项工作表明,事件树/故障树和马尔可夫建模的传统方法似乎对数字 I&C 系统的 PRA 有用,但也揭示了使用传统 PRA 方法对数字系统进行建模的最新技术的局限性以及需要进行额外研究和开发的地方。该报告提供了在这项工作中获得的其他见解和结论,并提出了将这些方法应用于首次可靠性研究时要开展的活动。请注意,为了遵循上述主要目标,该项目通常不会涉及最新技术的进步,例如软件故障风险评估。