自 2019 年 7 月 16 日以来,人们就开始期待欧洲出台一些关于人工智能的立法。在那一天,乌尔苏拉·冯德莱恩承诺,在她当选为欧盟委员会主席后的 100 天内,她将提出新的人工智能立法。1 当时,我评论说,这是一个合理的策略,但时间表不切实际。欧盟委员会组织的人工智能高级专家组(HLEG,我是其中成员)2 最近才发布了《可信人工智能伦理指南》(HLEGAI,2019 年)和《可信人工智能政策和投资建议》(HLEGAI,2019 年)。显然,下一步将是将这些指南和建议转化为法律框架(Floridi,2019a)。然而,HLEG 开展的工作也表明,未来的道路将是漫长而艰辛的。我原以为这至少需要一年时间,而不是三个月。我很乐观。2020 年 2 月 19 日,委员会发布了《人工智能白皮书——欧洲走向卓越与信任的方法》(欧盟委员会,2020 年)。该文件概述了基于风险的人工智能方法以及促进此类技术应用的政策。但与此同时,新冠肺炎疫情开始蔓延,造成了致命影响和巨大破坏。3 尽管如此,欧盟委员会还是于 2021 年 4 月 21 日发布了新的欧盟人工智能法案(下称 AIA)的提案,或用其全名发布欧洲议会和理事会条例提案,制定人工智能协调规则(人工智能法案)并修订某些联盟立法法案(人工智能法案 21,2021 年)。据欧洲数据保护监督机构网站称,AIA 是“全球首个为人工智能提供法律框架的倡议
感谢您的邀请,共同主席有关识别和问责制框架的咨询(“咨询”)。您知道,咨询调查了一大批利益相关者,以确定如何在非国家实体(“ HLEG”)的净零排放承诺上最好地实施建议8的建议8,并打算将建议转化为INFCCC的实施计划。In your invitation to undertake the Consultation, you asked us to provide recommendations related to “the technical developments required for improvements in the UNFCCC Global Climate Action Portal” and the UNFCCC Recognition and Accountability Framework and its first Draft Implementation published in June 2023, to ensure greater transparency and accountability of individual non-state entities' net-zero pledges, transition plans and progress reporting.
1956 年,约翰·麦卡锡首次使用人工智能或 AI 这个术语,指的是“创造智能机器,特别是智能计算机程序背后的科学与工程”:欧盟委员会为制定欧洲人工智能战略而成立的高级人工智能小组 (IA - HLEG) 将该术语应用于任何“表现出智能行为的系统,这种系统能够分析其环境并以一定程度的自主性采取行动,以实现特定目标”1。还有其他定义,但都可以归纳为这样一个概念:人工智能是机器以人类思维的方式行事的能力,包括创造力方面和从复杂甚至不完整的信息中进行复杂分析和推理的能力2。
马耳他本身没有专门的法律框架来管理人工智能(AI);但是,在当地采取了各种倡议。2018年10月,马耳他政府成立了马耳他。工作组已发布了两个文件:(1)马耳他的道德AI框架(“框架”); (2)马耳他2030年人工智能的策略和愿景(“策略”)。该框架于2019年10月出版,没有法律的约束力,但为可信赖的AI治理建立了一系列指导原则。它基于欧盟委员会高级人工智能专家小组(AI HLEG)于2019年4月出版的《可信AI》的AI伦理指南,490,但旨在为这些控制实践提供了许多控制惯例,以提供在其中设置的原理来提供指导的指导。
* 我们接受以下 AI 的正式定义(来源:HLEG 定义 AI)。人工智能 (AI) 系统是由人类设计的软件(也可能是硬件)系统,给定一个复杂目标,通过数据采集感知其环境、解释收集的结构化或非结构化数据、推理知识或处理从这些数据中得出的信息并决定为实现给定目标而采取的最佳行动,在物理或数字维度上采取行动。AI 系统可以使用符号规则或学习数字模型,它们还可以通过分析环境如何受到其先前行为的影响来调整其行为。作为一门科学学科,AI 包括多种方法和技术,例如机器学习(其中深度学习和强化学习是具体示例)、机器推理(包括规划、调度、知识表示和推理、搜索和优化)和机器人技术(包括控制、感知、传感器和执行器,以及将所有其他技术集成到网络物理系统中)。
经过多年的公众咨询和审议,欧盟委员会提出了全面监管人工智能 (AI) 的法律框架。最引人注目的是,人工智能高级专家组 (AI HLEG) 自 2018 年以来就制定了道德准则和政策建议。虽然中国和美国等国家或欧洲委员会等国际组织正在制定法律框架来规范人工智能的开发和使用,但欧盟委员会于 2021 年 4 月 21 日提出的提案(人工智能法案或 AIA)似乎使联盟处于最有力的地位,可以为一项关键的新兴技术制定具有全球意义的监管标准。在简要总结了未来监管的起源、背景和主要特征之后,本文探讨了“布鲁塞尔效应”是否会体现在突破性的人工智能监管中,或者欧盟及其成员国是否会冒着仓促采用无能的法律框架的风险,而这项技术对社会的影响仍未得到充分理解。此外,拟议的
委员会对人工智能的监管工作始于 2018 年 3 月,当时成立了人工智能高级专家组 (HLEG) 和欧洲人工智能联盟。这些努力首先在 2018 年底以《人工智能协调计划》的形式实现。随后,HLEG 制定了《可信人工智能伦理指南》,其中概述了四项道德原则(严格基于基本权利)和人工智能系统应满足的七个关键要求,以被视为值得信赖。《人工智能白皮书》于 2020 年 2 月发布,旨在概述人工智能的共同定义,并分析欧洲在全球人工智能市场中的优势、劣势和机遇。在这些举措的基础上,委员会于 2021 年 4 月发布了 2021 年《人工智能协调计划》的修订版,为委员会和成员国提出了一套具体的合作举措。数字创新中心 (DIH) 的参与也有望加强欧洲在人工智能领域的领导地位,因为它们有潜力加强合作并降低中小企业采用人工智能的成本。除了最新计划外,委员会还发布了“欧洲议会和理事会关于制定人工智能协调规则的条例”(以下简称“人工智能法案提案”),这是有史以来第一个关于人工智能的法律框架。其主要目的不仅是促进人工智能的发展,而且还要打造一个独特的欧洲人工智能市场,使其在可信度方面有别于其他全球参与者——以所谓的“欧洲方式”打造值得信赖的人工智能。法律确定性促进了投资和创新,同时解决了和减轻了人工智能技术对安全和基本权利构成的风险。委员会坚信,将这些技术的负面影响降至最低的唯一方法是通过监管,人工智能法案提案还包含禁令和改编自欧盟产品安全法规的合格评定体系。为了补充《人工智能法案》提案,委员会于 2022 年 9 月底通过了两项提案,以使责任规则适应数字时代:《人工智能责任指令》和修订后的产品责任指令。该指令侧重于前者,旨在解决人工智能软件在现行责任规则下被视为具有挑战性的特征,特别是“不透明性、自主行为和复杂性”。责任法将成为实施人工智能监管的一个重要方面,因为它提供了一种机制来确定当人工智能发生故障或造成伤害时谁应该承担责任。
协调行动计划(2018 年)负责协调成员国和欧盟之间与人工智能相关的投资和行动。 欧洲人工智能联盟(2018 年)是欧洲所有与人工智能相关的方面、其发展和影响的多利益相关方论坛。 人工智能高级专家组(AI HLEG,2018 年)的总体目标是通过制定有关未来政策制定以及与人工智能相关的伦理、法律和社会问题的建议,支持欧洲人工智能战略的实施。 AI Watch 计划(2018 年),一项“监测欧洲人工智能发展、采用和影响的委员会知识服务”。 AI4EU(2019 年)联盟正在构建第一个欧洲按需人工智能平台,以“降低创新壁垒,促进技术转让,并通过公开招标和其他行动促进各行各业的初创企业和中小微型企业的发展”。 《欧洲数据战略通报》以及《人工智能白皮书》(均为 2020 年)。这两份文件相互依存,表明委员会将如何进一步支持和促进欧盟成员国人工智能的发展和应用。
1 在本政策建议中,使用人工智能(AI)的服务将成为讨论的主题。在此背景下,“AI服务”是指利用AI模型的判断提供服务,包括AI扬声器等产品。 2 A. Jobin、M. Ienca & E. Vayena:AI伦理指南的全球格局,Nature Machine Intelligence,1,389-99,2019。 3 IEEE:符合伦理的设计第一版,2019。 4 J. Morley、L. Floridi、L. Kinsey & A. Elhalal:从什么到如何:对公开可用的AI伦理工具、方法和将原则转化为实践的研究的初步审查,Science and Engineering Ethics,2019。 5 欧盟委员会人工智能高级专家组(HLEG):可信AI评估清单(试点版),2019。“可信AI评估清单(试点版)”有129个项目。 https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai 6 智慧迪拜:道德 AI 工具包,2018 年。https://www.smartdubai.ae/initiatives/ai-principles-ethics 7 新加坡个人数据保护委员会:组织实施和自我评估指南(ISAGO),2020 年。8 PDPC:模型 AI 治理框架第二版,2020 年。9 PCPC:用例概要:模型 AI 治理框架的实际说明,2020 年。
AGI 通用人工智能 AI 人工智能 AI HLEG 人工智能高级专家组 API 应用程序编程接口 CEN 欧洲标准化委员会 CENELEC 欧洲电工标准化委员会 CL 通用逻辑 CPU 中央处理单元 ETSI 欧洲电信标准协会 EU 欧洲联盟 GDP 国内生产总值 GOFAI 传统的人工智能 GPS 通用问题求解器(第 1 章) GPS 全球定位系统(第 2 章) GPU 图形处理单元 HCI 人机界面 HMM 隐马尔可夫模型 ICT 信息和通信技术 IEC 国际电工委员会 IEEE 电气电子工程师协会 IoT 物联网 ISG 行业规范组 ISO 国际标准化组织 IT 信息技术 ITU-T 国际电信联盟 - 电信标准化部门 JTC 1 联合技术委员会 1(ISO 和 IEC) kNN K-最近邻居 ML 机器学习 NLP 自然语言处理 OECD 经济合作与发展组织 OWL Web 本体语言 PaaS 平台即服务 RAM 随机存取存储器 RPA 机器人过程自动化 SC 小组委员会 SG 研究组 SQuaRE 系统和软件质量要求和评估 SVM 支持向量机 TLO 顶级本体 TPU 张量处理单元 TR 技术报告 TS 技术规范 W3C 万维网联盟 WG 工作组 WIPO 世界知识产权组织