XiaoMi-AI文件搜索系统
World File Search System沙盒
欧盟人工智能法案草案下的监管沙盒：中小企业的机遇？*
欧盟委员会提交《人工智能法案》（AI Act）提案一年多后，欧盟机构仍在努力通过这项开创性的法规。《人工智能法案草案》包含一套统一的横向规则，用于开发、营销和使用符合欧盟价值观的人工智能系统，采用基于风险的比例方法。其目的是避免监管摩擦和碎片化，并为人工智能系统和技术创造一个运作良好的内部市场。然而，政策和监管选择不应阻碍人工智能系统和技术对社会和经济的创新潜力和变革性影响。因此，《人工智能法案草案》引入了人工智能监管沙盒，作为决定监管什么和如何监管的试验场。这是一种新颖的监管方法，在将人工智能系统投放市场之前，在严格的监管监督下促进人工智能系统的创新、开发和测试。《人工智能法案草案》提出的解决方案在法律理论和行业中引起了兴奋和批评。本文将探讨人工智能监管沙盒的好处和挑战。草案将根据金融科技行业的经验进行严格评估，尤其是考虑对中小企业的影响。欧盟的目标是为人工智能建立一个强大、抗干扰、灵活、创新友好且面向未来的监管框架，而人工智能监管沙盒对监管者和创新者的直观吸引力值得深入研究。
真正的不确定性和道德 AI：监管沙盒作为道德想象的政策工具
人工智能 (AI) 技术在我们知识的极限或超出范围的情况下挑战道德选择。技术的发展不仅比我们的监管速度更快，而且比我们的想象更快。在越来越多的关于人工智能和伦理的文献中，为负责任的人工智能创建框架的斗争得到了深入讨论。在欧盟人工智能法案的等待中，实际上与欧盟人工智能法案平行，保护基本权利以及以人为本、合乎道德和负责任地使用人工智能技术是一项核心目标 [ 1 , 2 ]，自下而上解决人工智能和伦理问题的举措正在蓬勃发展。有人呼吁将道德作为人工智能教育的核心 [ 3 ]；为人工智能开发者引入誓言，与医学中的希波克拉底誓言一致 [ 4 ]；并建立约束公司行善的行为准则 [ 5 , 6 ]。此外，有人呼吁通过政策制定者引入的监管沙盒等机制，实现多方利益相关者的协调
人工智能法案和监管沙盒
虽然没有统一的定义，但监管沙盒通常是指允许企业在监管机构的监督下在有限时间内测试和试验新的创新产品、服务或业务的监管工具。因此，监管沙盒具有双重作用：1）促进商业学习，即在现实环境中开发和测试创新；2）支持监管学习，即在监管机构的监督下，制定实验性法律制度，指导和支持企业开展创新活动。在实践中，该方法旨在在受控风险和监管框架内实现实验性创新，并提高监管机构对新技术的理解。1
沙盒在促进数字时代灵活性和创新方面的作用
数字技术和数据释放了新的潜力，颠覆了整个行业。然而，数字化创新产品和商业模式通常与传统市场有很大不同，在某些情况下，它们与现有的监管框架不太契合。作为回应，政策制定者正在越来越多地进行试验。开发促进政策灵活应用或执行的机制的一种方法是使用监管“沙盒”，这可能对某些类型的数字化创新特别有用。本政策说明讨论了监管沙盒的出现，分析了共同特征，确定了潜在的好处和挑战，并考虑了经合组织及其他地区多个受监管行业的例子。
沙盒测试和试验数字技术以实现可持续发展
从创新中心和政策实验到监管沙盒数字技术有望通过支持创新、前瞻性的政策和数字政府解决方案来加速可持续发展。然而，这些机遇也带来了许多前沿技术的风险和复杂性，以及与包容性、竞争、隐私和安全相关的政策和监管挑战。创新中心、孵化器、加速器或试验台已成为新技术的跳板，现在在许多发达国家和发展中国家都很常见。然而，在某些情况下，公共部门创新失败的已知风险和成本意味着政策制定者和监管者可能仍然倾向于维持现状。近年来，一些国家出现了沙盒和实验等相对较新的方法，事实证明，这些方法可有效创造一个更有利、更受约束的空间。在这种空间中，政府可以与私营部门和其他相关利益攸关方合作，在受控空间中用小样本群体测试技术，然后再大规模推出，从而大幅降低成本，并限制失败和负面影响的可能性。图1说明了创新、实验和沙盒的各种机构方法。一些国家已经通过公私合作伙伴关系（PPP）或多利益攸关方合作伙伴关系（MSP）为使用沙盒建立了机构、政策或监管框架。例如，英国金融行为监管局（FCA）建立了监管沙盒，以实现更高效的中小企业（SME）贷款，并支持金融部门数字身份的发展，特别针对消费者和中小企业1。在新加坡，能源市场管理局 (EMA) 为能源行业实施了监管沙盒，主要关注电力和天然气领域的创新，旨在为未来的可再生能源寻找创新解决方案 2。在哈萨克斯坦，
CIPL 对欧盟委员会关于《人工智能法案》草案的咨询的回应 CIPL 1 欢迎就欧盟委员会关于《欧洲人工智能法案》2（“AI 法案”或“法案”）的提案进行咨询，以将其纳入欧盟立法程序。CIPL 很高兴看到《人工智能法案》采纳了 CIPL 关于采用基于风险的方法监管欧盟人工智能的文件中提出的几项建议。3 这些建议旨在培养对人工智能的信任，而不会妨碍其负责任的发展。特别是，CIPL 欢迎该法案基于风险的方法，该方法将适用于高风险的人工智能用例，而不会监管人工智能技术本身或整个行业。CIPL 还欢迎拟议使用统一标准和行业自我评估产品符合性，因为这些机制已被证明能够成功推动创新并在欧盟市场开发安全可信的技术。CIPL 还欢迎旨在支持创新的措施，特别是通过为监管沙盒提供法定基础。最后，CIPL 很高兴看到《人工智能法案》中概述的一些要求与一些现有的行业惯例相一致，这些惯例为确保负责任地开发和使用人工智能设定了高标准。4 然而，CIPL 遗憾的是，《人工智能法案》没有充分考虑到一些必要条件，例如提供基于结果的规则；明确允许组织根据人工智能系统的风险和收益来调整对要求的遵守情况；奖励和鼓励负责任的人工智能实践；利用监管沙盒的经验教训；并澄清《人工智能法案》的监督和执行条款也应基于风险。CIPL 重申，要使《人工智能法案》有效地保护基本权利，同时也为欧盟创新的新时代奠定基础，它需要足够灵活以适应未来的技术。此外，该法案不能过于严格，以免抑制包括公共卫生或环境在内的一系列行业和部门对人工智能的宝贵和有益的创新和使用。最后，《人工智能法案》将受益于有针对性的调整，以更好地明确人工智能提供者、部署者和用户的责任平衡，特别是对于通用人工智能和开源人工智能模型。
CIPL 对欧盟委员会关于《人工智能法案》草案的咨询的回应 CIPL 1 欢迎就欧盟委员会关于《欧洲人工智能法案》2（“AI 法案”或“法案”）的提案进行咨询，以将其纳入欧盟立法程序。CIPL 很高兴看到《人工智能法案》采纳了 CIPL 关于采用基于风险的方法监管欧盟人工智能的文件中提出的几项建议。3 这些建议旨在培养对人工智能的信任，而不会妨碍其负责任的发展。特别是，CIPL 欢迎该法案基于风险的方法，该方法将适用于高风险的人工智能用例，而不会监管人工智能技术本身或整个行业。CIPL 还欢迎拟议使用统一标准和行业自我评估产品符合性，因为这些机制已被证明能够成功推动创新并在欧盟市场开发安全可信的技术。CIPL 还欢迎旨在支持创新的措施，特别是通过为监管沙盒提供法定基础。最后，CIPL 很高兴看到《人工智能法案》中概述的一些要求与一些现有的行业惯例相一致，这些惯例为确保负责任地开发和使用人工智能设定了高标准。4 然而，CIPL 遗憾的是，《人工智能法案》没有充分考虑到一些必要条件，例如提供基于结果的规则；明确允许组织根据人工智能系统的风险和收益来调整对要求的遵守情况；奖励和鼓励负责任的人工智能实践；利用监管沙盒的经验教训；并澄清《人工智能法案》的监督和执行条款也应基于风险。CIPL 重申，要使《人工智能法案》有效地保护基本权利，同时也为欧盟创新的新时代奠定基础，它需要足够灵活以适应未来的技术。此外，该法案不能过于严格，以免抑制包括公共卫生或环境在内的一系列行业和部门对人工智能的宝贵和有益的创新和使用。最后，《人工智能法案》将受益于有针对性的调整，以更好地明确人工智能提供者、部署者和用户的责任平衡，特别是对于通用人工智能和开源人工智能模型。
人工智能中设计和默认的隐私沙盒 ...
针对侵犯人权的风险实施适当的问责措施。2019 年，工商监管局 (SIC) 发布了以下文件：(i) 电子商务个人数据处理指南 1 ；(ii) 营销和广告个人数据处理指南 2 ；(iii) 个人数据国际转移问责原则实施指南 3 。在所有这些文件中，建议在设计和默认时纳入隐私、道德和安全。此外，建议进行隐私影响评估 (PIA)。
如何构建监管沙盒实用指南...
• 替代数据承保。一家金融科技贷款机构提议使用替代数据（教育和就业历史）和机器学习来承保消费者信贷（CFPB 2017）。监管机构承认该承保模式有扩大信贷渠道和降低成本的潜力，但担心承保模式会根据种族、民族、性别或年龄歧视借款人。监管机构使用沙盒测试确定，与传统承保模式相比，该技术扩大了信贷渠道并降低了成本，结果是（i）批准的申请人增加了 27%，总体年平均利率降低了 16%；（ii）25 岁以下申请人和收入低于 50,000 美元的消费者的批准率大幅提高。此外，测试发现批准中不存在歧视。
监管沙盒手册 - BMWK
插图 Adam Gault / Getty Images / p. 1 33 艾托·迪亚戈/盖蒂图片社/第 33 页36 BMWi / 页。 30 鲍里斯·SV/盖蒂图片社/第 30 页52 德国邮政股份公司/第 52 页42 个文档。创新/p。 69 enot-poliskun/盖蒂图片社/p。 14, 20 H&C STUDIO / Getty Images / p. 14 49 想象 / iStock / p。 34 Kirti Patel / iStock / title Carriages / Lower Government / p. 11 3 灯光色情 / EyeEm / Getty Images / p。 28 MihaPater / iStock / p。 50 MirageC/盖蒂图片社/p。 55 诺拉·卡罗尔摄影/盖蒂图片社/p。 41 奥利弗·勒莫尔 / iStock / 第 41 页38 Photodisc/Getty Images/S12 PeakStudio/Shutterstock/p。 4 图片联盟/dpa/S.26 图片联盟/JOKER/p.4 25、59 图片联盟/写真/第 25 页43 图片联盟/Sebastian Gollnow/dpa/p. 43 35 Piyush Ghedia/盖蒂图片社/p。下午 6 点 图片/盖蒂图片社/p。 62 拉尔夫·希米施 / 盖蒂图片社 / 第 62 页47, 67 理查德·德鲁里/盖蒂图片社/p。 23 肖恩·格拉德威尔/盖蒂图片社/p。 57 simon2579/盖蒂图片社/p。 10 张 thauwald 图片 / Adobe Stock / 第 10 页65 trendobjects / iStock / p。 44 维杰·库马尔/盖蒂图片社/第 44 页6 ATV Studio / iStock / 第 6 页31