我们主要希望本简介文档供大型、最先进的 GPAIS 开发人员使用。对于 GPAIS 开发人员,本简介文档有助于遵守或使用领先的 AI 风险管理相关标准,并旨在促进遵守即将出台的《欧盟 AI 法案》等相关法规,特别是与 GPAIS 相关的方面。(但是,本简介并未提供特定行业或应用中的 GPAIS 应用程序可能需要的所有指导。)其他可以从本指南中受益的人包括:基于 GPAIS 平台构建的最终用途应用程序的下游开发人员; GPAIS 的评估者;以及监管界。本文档可以为 GPAIS 部署者、评估者和监管者提供有用的信息,以评估此类 AI 系统的开发人员在多大程度上遵循了相关的最佳实践。使用本简介中最佳实践的广泛规范有助于确保 GPAIS 开发人员能够保持竞争力,同时又不损害人工智能安全、保障、问责制和相关问题的实践。最终,本简介旨在帮助日益通用的人工智能系统价值链中的关键参与者实现最大化利益和最小化负面影响的结果,对个人、社区、组织、社会和地球都是如此。这包括保护人权、最大限度地减少负面环境影响以及预防在社会范围内造成系统性或灾难性后果的不利事件。
Carlos I. Gutierrez、Anthony Aguirre、Risto Uuk、Claire C. Boine 和 Matija Franklin 摘要 — 欧盟 (EU) 正在通过一项名为《人工智能法案》的努力全面监管人工智能 (AI)。在该法案支持的众多问题中,对被归类为通用人工智能系统 (GPAI) 的技术的处理值得特别考虑。特别是,现有的定义 GPAIS 的提案没有提供足够的指导来将这些系统与旨在执行特定任务的系统(称为固定用途系统)区分开来。因此,我们的工作文件有三个目标。首先,强调文献中对 GPAIS 解释的差异和模糊性。其次,研究可用于定义 GPAIS 的通用目的维度。最后,它提出了一个功能性定义,以促进该术语在欧盟内部的治理。我们写这篇文章的目的是引发一场讨论,以改善硬法和软法的努力,以减轻这些系统的风险,并保护欧盟和全球选民的福祉和未来。索引词——人工智能、欧盟、技术治理、技术风险管理
引言 2 I. 从人工智能代理到软件 5 A. 人工智能定义的演变 5 1. 人工智能的功能定义 5 2. 统计工具的兴起 8 B. 关于伤害的某些概念 11 1. 风险与背景的关系 11 2. 风险与数据的关系 14 C. 欧盟法律和《人工智能法》中的预期目的概念 15 1. 欧盟法律中的预期目的概念 15 2. 《人工智能法》中的预期目的概念 17 II. 从软件到人工智能代理 18 A.无预期用途模型的兴起 18 1. 基础模型和其他 GPAIS 18 2. 功能日益强大且具有代理性的人工智能系统 22 B. 相关危害 23 1. 揭穿《人工智能法案》中的一些误解 23 2. GPAIS 和潜在危害 25 C. 与 GPAIS 相关的法律问题 26 1 渥太华大学法学院博士候选人;图卢兹人工智能和自然智能研究所研究员。 2 麦吉尔大学计算机科学学院助理教授
尽管要求对人工智能开发和使用进行监管和政府监督的呼声越来越高,但监管机构和标准制定者仍面临着跟上人工智能能力进步的挑战。例如,经过多年的公众咨询和密集的多司法管辖区共识建设,《欧盟人工智能法案》(EU AI Act)进行了重大修改,以纳入生成性人工智能,这是一类新的人工智能能力,随着 2022 年 11 月 ChatGPT 的公开发布而广受欢迎。重写的原因是《欧盟人工智能法案》是为 2021 年流行的一次性传统人工智能模型编写的。ChatGPT 是众多通用人工智能系统 (GPAIS) 之一,它改变了企业人工智能使用的格局。GPAIS 是能够完成各种任务的基础模型,这成倍地增加了它们可以支持的用例范围及其相关风险状况。