机构名称：
¥ 3.0
2023 年 4 月 摘要：适当监管人工智能是一项紧迫的政策挑战。立法机构和监管机构缺乏将公众需求转化为法律要求所需的专业技术知识。过度依赖行业自律无法让人工智能系统的生产者和用户对民主要求负责。有人提出了监管市场，即政府要求监管对象从私人监管机构购买监管服务。这种人工智能监管方法可以克服命令和控制监管和自我监管的局限性。监管市场可以使政府为人工智能监管制定政策优先事项，同时依靠市场力量和行业研发努力来开创最能实现政策制定者既定目标的监管方法。 1. 简介 过去十年见证了人工智能领域取得的惊人成就。这十年始于图像分类的突然进步（He 等人，2019 年）。五年后，深度强化学习在围棋等狭窄任务中表现出意想不到的能力（Silver 等人，2016 年）。最近，拥有数十亿个参数并经过数十亿个单词和图像训练的大型生成模型已经展现出令人惊讶的基础能力，可以编写合理的文本或计算机代码、阐明想法、根据命令生成图像、回答复杂问题等等（Goodfellow 等人，2020 年；Wei 等人，2022 年）。过去十年，围绕人工智能治理的讨论也发生了变化。早期认识到（Sweeney，2013 年；Buolamwini 和 Gebru，2018 年）基于随意选择的数据（从互联网上抓取的图像或文字、招聘决策历史）训练的不透明分类系统将重现并可能放大种族和性别偏见，这引发了全球关于人工智能伦理的讨论。很快，行业和民间社会组织就出现了一系列原则和指导方针（Jobin 等人，2019 年）。现在，各国政府已经开始探索（在某些情况下是出台）立法来管理已经通过人工智能驱动的互联网平台和设备嵌入日常生活的技术的开发和使用。然而，治理人工智能的挑战是巨大的。任何新技术都面临着“步调”问题（Marchant 2011），即创新速度落后于行业实验室，治理速度落后于政治和官僚机构，人工智能也不例外。但治理人工智能的挑战不仅仅是延迟，而是传统治理工具的能力与我们需要的解决方案的性质之间的根本不匹配，以确保一项技术能够
监管市场：人工智能治理的未来
主要关键词
相关文件推荐
