该论文从AIGO和GPAI代表作为专家的口头和书面贡献中受益匪浅,作为与OECD.AI体验小组相关的专家,包括Abhishek Singh(印度); Barry O'Brien(IBM);卡洛斯·伊格纳西奥·古铁雷斯(Carlos Ignacio Gutierrez)(生命研究所的未来);克雷格·香克(Craig Shank)(独立专家); Cornene White(美国);丹尼尔·施瓦贝(Daniel Schwabe)(里约热内卢的天主教大学;戴维·特恩布尔(美国); Debashis Chakraborty(印度); Dewey Murdick(CSET);DunjaMladenić(Jožefsif Sif Institute); Elham Tabassi(Elham Tabassi(Elham Tabassi); Elham Tabassi(Estit); Florian Ostmann(Florian Ostmann)(Alan Turnitute); Frase (Veraitech); Irna Orssic (Europan Commission); Jesse Dunetz (Sthi); Jimena Vvers (IQILILIBRIUMAI); Jimmy Farrell (Pour Demain); Judith peterka (Germany); Julian frohnecke (Germany); Kevin paeth (ul research institutes); Larissa lem (infocomm media development authority); Luis Ricardo Sánchez Hernández (Mexico); Matthew o'shaugnessness (U.S. Department of State); Marjoleine Hennis (Netherlands); Mark Latonero (U.S. AI Safety Institute); Marko Grobelnik (Jezief Stefan Institute); Melisa teleki (republic of türkiye); Michaine Reffay (France); Nicolas Miailhe(未来的社会);帕特里克·吉尔罗伊(TüvAssociation); Raja Chatila(IEEE);罗布·普罗克特(Warwick University);莎拉·布克(Sarah Box)(新西兰);肖恩·麦格雷戈(Sean McGregor)(负责AI合作); Sebastian Hallensleben(Cen-Cenelec);沙龙·霍(加拿大); Tatjana Evas(欧洲委员会); Theodoros Evgeniou(Insad); ThiagoGuimarãesMoras(巴西);直到克莱因(Apliedai);威廉·巴塞洛缪(Microsoft)和乔丹·伊万诺娃(Jordan Ivanova)(欧洲委员会)。
2019 年 5 月 10 日 Elham Tabassi,美国国家标准与技术研究所 100 Bureau Drive, Stop 200 Gaithersburg, MD 20899 尊敬的 Tabassi 女士, 谨代表数据创新中心 (datainnovation.org),我们非常高兴针对美国国家标准与技术研究所 (NIST) 关于人工智能 (AI) 标准的信息请求提交意见。1 数据创新中心是研究数据、技术和公共政策交叉领域的领先智库。该中心在华盛顿特区和布鲁塞尔设有工作人员,制定并推广务实的公共政策,旨在最大限度地发挥公共和私营部门数据驱动创新的效益。它向政策制定者和公众介绍与数据相关的机遇和挑战,以及重要的数据相关技术趋势。该中心是一家非营利、无党派研究机构,隶属于信息技术和创新基金会。强大的人工智能技术标准对于该技术在美国和国外的成功至关重要,因为它们可以作为人工智能开发和评估的权威指南和基准。然而到目前为止,对人工智能监管的担忧阻碍了关于标准制定的富有成效的讨论,导致政策制定者优先考虑监管而忽视了技术理解。NIST 应该将这一重点转移回技术标准制定,为未来任何加强人工智能监管的努力提供可靠的科学基础。此外,NIST 应加强美国在制定人工智能标准和鼓励广泛采用人工智能标准方面的领导地位,以确保全球市场竞争激烈。
2021 年 9 月 15 日 Elham Tabassi 和 Mark Przybocki 美国国家标准与技术研究所 MS 20899,100 Bureau Drive,Gaithersburg,MD 20899 主题:NIST AI 风险管理框架 通过电子邮件发送至 AIframework@nist.gov 亲爱的 Tabassi 女士和 Przybocki 先生, 感谢您邀请我们提交意见,以回应美国国家标准与技术研究所 (NIST) 关于 NIST AI 风险管理框架 (AI RMF 或框架) 的信息请求 (RFI)。NIST 要求将意见发送至 AIframework@nist.gov 或 www.regulations.gov。我们提供以下意见供您考虑。我们关注三大类风险:民主和安全、人权和福祉以及全球灾难。尽管现实世界中许多风险可能属于多个类别,但每个类别也具有重要的分析区别,并且对于确保人工智能系统的未来发展保持安全并与人类优先事项相称具有独立的重要性。虽然先前的研究主张认真和紧急地对待每种类型的风险,但我们强调,这些风险——无论今天多么不可能或难以想象——都可能相互影响和加剧,除非我们妥善处理和减轻它们。换句话说,除非对每个风险都给予应有的重视,否则我们无法详尽地为任何这些风险做好准备。这需要积极监测和主动机制来防止它们的表现和相互影响。因此,我们向 NIST 提交此报告旨在填补的空白是确定针对这些风险交集的政策策略、体制机制和技术干预措施,重点关注与人工智能理论家、计算机科学家、政策制定者和利益相关者倡导者所阐述的特定危险或警告相关的主题。我们的主要一般主题和建议包括:● 继续关注并描述社会规模问题的含义,包括:民主和安全风险;人权和福祉风险;以及全球灾难性风险。○ 我们赞赏 NIST 在 AI RMF RFI 中除了个人和团体风险外,还大量关注社会规模问题。○ 我们建议将社会规模问题的含义扩展到
该报告受益匪浅,其中包括 Theodoros Evgeniou(欧洲工商管理学院)、Raphaël Rozenberg(巴黎高等师范学院)和 Fabio Curi,以及经合组织人工智能治理工作组各国代表团的贡献,他们是:Mohammed Motiwala(美国国务院);Elham Tabassi 和 Mark Latonero(美国国家标准与技术研究所 - NIST);Ghazi Ahamat(英国数据伦理与创新中心,任期至 2022 年 8 月);Sarah Box(新西兰商业、创新和就业部);Christine Hafskjold(挪威地方政府和区域发展部);Carolina von der Weid(巴西外交部);Zee Kin Yeong、Larissa Lim 和 Angela Tey(新加坡资讯通信媒体发展局);Nobuhisa Nishigata 和 Takayuki Honda(日本总务省); Roxane Sabourin、Allison O'Beirne 和 Juliet McMurren(加拿大创新、科学与经济发展部);以及 Yordanka Ivanova 和 Salvatore Scalzo(欧盟委员会通信网络、内容和技术总司 - CNECT)。
本报告得益于以下专家的贡献,他们在 2022 年 11 月和 2023 年 4 月的 AIGO 会议上介绍了他们的人工智能政策工作。他们是:Paula Garnero 和 Vanina Martinez(阿根廷)、Ciro Eduardo Ferreira(巴西)、Roxane Sabourin(加拿大)、Juraj Bilic(克罗地亚)、Kilian Gross、Tatjana Evas 和 Yordanka Ivanova(欧盟委员会)、Kristine Alanko(芬兰、Jibu Elias(印度)、Sangwon Ko(韩国)、 Luis Ricardo Sanchez Hernandez(墨西哥)、Ioan Istrate(罗马尼亚)、Larissa Rim 和 Zee Kin Yeong(新加坡)、Jana Novohradska(斯洛伐克)、Miguel Valle Del Olmo(西班牙)、Isabelle Lois 和 Livia Walpen(瑞士)、Oleksandr Bornyakov(乌克兰)、亚伯拉罕·鲍德里(Abraham Baldry)(英国)、礼来公司McFeeters、Lindsey Barrett、Elham Tabassi、Sam Schofield 和 Sorelle Friedler(美国)。
安德拉德(Andrade),多利安娜·安德鲁斯(Dorianna Andrews),安妮·巴博萨(Anne Barbosa),尼古拉斯·布朗(Nicholas Brown),汉娜·卡佩拉(Hannah Capella),格雷格·多恩(Greg Dohne),柯克·埃文斯(Kirk Evans),希瑟·法索尔卡(Heather Fasolka),迈克·法托(Mike Gayle ,利亚·基斯(Leah Keys),米塔·金(Mirta Kim),Yekyung(Yennie)Madsen,Mark Mattson,Bruce Meriitis,Dimitrios Nastus,Joseph(Joe)Nist,Jennifer Reidy,Kari Rimmer,Catherine(Catherine)里德,吉姆。
安德拉德(Andrade),多利安娜·安德鲁斯(Dorianna Andrews),安妮·巴博萨(Anne Barbosa),尼古拉斯·布朗(Nicholas Brown),汉娜·卡佩拉(Hannah Capella),格雷格·多恩(Greg Dohne),柯克·埃文斯(Kirk Evans),希瑟·法索尔卡(Heather Fasolka),迈克·法托(Mike Gayle ,利亚·基斯(Leah Keys),米塔·金(Mirta Kim),Yekyung(Yennie)Madsen,Mark Mattson,Bruce Meriitis,Dimitrios Nastus,Joseph(Joe)Nist,Jennifer Reidy,Kari Rimmer,Catherine(Catherine)里德,吉姆。
安德拉德、多丽安娜·安德鲁斯、安妮·巴博萨、尼古拉斯·布朗、汉娜·卡佩拉、格雷格·多恩、柯克·埃文斯、希瑟·法索尔卡、迈克·法托、霍普·盖尔、弗兰克·吉勒曼、戈登·格伦、雷切尔·格林、克里斯汀·汉莱因、Desiree (DiDi) Hanna、南希·希利、威廉·海特-沃克、安吉拉·霍夫曼、伊丽莎白·韦尔戈、詹妮弗·艾薇、娜拉·贾汉米尔、赛义德·珍妮特、本杰明·考夫曼、利亚·凯斯、米尔塔·金、叶京·马德森、马克·马特森、布鲁斯·梅里蒂斯、迪米特里奥斯·纳斯图斯、约瑟夫·尼斯特、詹妮弗·雷迪、卡里·里默、凯瑟琳(凯特·罗杰斯、凯利·鲁德尼茨基、罗伯特·桑德里、克莱尔·斯贝加耶娃、安娜·施拉特、凯蒂·M·施罗德,梅丽莎Schufreider、Jim Seiler、Dave Shyam-Sunder、Sivaraj Silverthorn、Courtney Strouse、Gregory Sullivan、Suzanne Tabassi、Elham Teske、Michael Ufford、Donald Valdez、Zachary VanLandingham、Mark Wang、Tom
安德拉德(Andrade),多利安娜·安德鲁斯(Dorianna Andrews),安妮·巴博萨(Anne Barbosa),尼古拉斯·布朗(Nicholas Brown),汉娜·卡佩拉(Hannah Capella),格雷格·多恩(Greg Dohne),柯克·埃文斯(Kirk Evans),希瑟·法索尔卡(Heather Fasolka),迈克·法托(Mike Gayle ,利亚·基斯(Leah Keys),米塔·金(Mirta Kim),Yekyung(Yennie)Madsen,Mark Mattson,Bruce Meriitis,Dimitrios Nastus,Joseph(Joe)Nist,Jennifer Reidy,Kari Rimmer,Catherine(Catherine)里德,吉姆。