我们鼓励 NIST 利用已纳入其他框架的原则,例如 NIST 网络安全框架 (CSF) 和 NIST 隐私风险管理框架,以及赞助组织委员会 (COSO) 框架中体现的五项原则:治理;战略;绩效;审查和修订;信息、沟通和报告。2 我们可以预见,NIST CSF 已经适应了 AI 的一些必需原则,隐私风险管理框架也是如此。我们鼓励 NIST 继续采用基于结果的 AI 方法,以便开发人员和集成商有明确的目标,并且可以通过多种方式满足这些目标。1. 行业中观察到的挑战通过德勤与蓬勃发展的 AI 行业的直接接触,我们观察到一些挑战,这些挑战可以通过开发 AI 风险管理框架来缓解或解决。这些挑战中的许多挑战的共同点是实施组织是否拥有专门的综合治理计划。我们将人工智能风险分为以下三个领域,在这些领域中,拥有透明、记录和可辩护流程的结构化风险管理框架将会有所帮助:
6 同上(第 8 页) 7 Eugene Gressman,《民权立法的不幸历史》,50 Mich. L. Rev. 1323、1332(1952 年)(描述了 1866-75 年民权法案和第十四修正案的宪法历史,并指出“民权被视为国家公民权的固有要素,因此有权受到联邦保护。而且,这种保护应以肯定的方式给予”)(着重强调)。 8 美国宪法第十四修正案(为 1866 年民权法案提供宪法基础并部分取代该法案,并定义国家公民身份:“所有在美国出生或归化美国并受美国司法管辖的人,都是美国公民,也是他们所居住州的公民。任何州不得制定或执行任何限制美国公民权利或豁免权的法律;任何州未经正当法律程序不得剥夺任何人的生命、自由或财产;也不得拒绝给予其管辖范围内的任何人平等的法律保护。”)(着重强调)。 9 例如,参见 1964 年民权法案;1990 年美国残疾人法案。 10 例如,参见 1964 年民权法案;1965 年投票权法案。
ACT | 应用协会(应用协会)很高兴有机会向美国国家标准与技术研究院(NIST)提交意见,该意见涉及其计划的框架,该框架旨在管理与人工智能(AI)相关的个人、组织和社会风险。1 应用协会代表数千家小型企业软件应用程序开发公司和技术公司,这些公司创造了推动物联网(IoT)用例在消费者和企业环境中使用的技术。今天,应用协会所代表的生态系统(我们称之为应用经济)的价值约为 1.3 万亿美元,并为 570 万美国就业岗位提供了支持。随着世界迅速接受移动技术,我们的成员创造了创新解决方案,为各种经济模式和部门的物联网提供支持。NIST 计划的自愿风险管理框架 (RMF) 以及众多机构在 AI 政策和监管方面的努力直接影响着应用经济。我们支持 NIST 的目标,即帮助 AI 系统的设计人员、开发人员、用户和评估人员更好地管理整个 AI 生命周期的风险。2
SCRM 通信一直在增加,美国关于 Cyber-SCRM 的监管要求也在不断发展。2020 年 SolarWinds 黑客攻击发现了软件供应链安全问题以及国防部知识产权的持续盗窃。此外,COVID 大流行和地缘政治紧张局势凸显了美国供应链面临的持续风险。这鼓励美国政府积极管理供应链风险以保护国家安全。美国总统于 2021 年 2 月 1 日签署了《美国供应链行政命令》。这启动了对整个联邦政府供应链风险的 100 天审查,包括国防、公共卫生、IT、通信、电力、交通和农业。100 天评估评估了供应链在管理经济繁荣和国家安全方面的弹性、多样性和安全性。
消费者技术协会®(“CTA”)® 1 谨此提交这些意见,以回应美国国家标准与技术研究所(“NIST”)关于 NIST 人工智能风险管理框架(“框架”)的信息请求(“RFI”)。 2 CTA 赞扬 NIST 在这些问题上的深思熟虑的工作以及建立自愿框架的努力,将可信度考虑因素纳入人工智能(“AI”)产品、服务和系统的创建和使用中。CTA 特别同意框架提出的适应性、基于风险、以结果为导向、自愿性和非规定性等属性,这些属性将共同促进公众信心和信任。CTA 同意 NIST 的说法,因为道德价值观没有客观标准,部分原因是这些价值观植根于特定社会或文化的规范和法律期望,因此普遍认为“必须以值得信赖和负责任的方式设计、开发、使用和评估人工智能,以促进公众信心和信任。” 3 原则和框架(例如 NIST 正在制定的原则和框架)将对 AI 系统的发展产生持久影响,只要利益相关者“认可”。如果这些原则和框架鼓励开发准确、合乎道德、包容和值得信赖的 AI,则最有可能统一采用和尊重全球 AI 相关原则和框架。同时
2 “《国会中的黑人美国人》中引用的宪法修正案和国会主要民权法案”,众议院历史、艺术和档案馆,https://history.house.gov/Exhibitions-and-Publications/BAIC/Historical-Data/Constitutional-Amendments-and-Legislation/;Thorin Klosowski,“美国消费者数据隐私法的现状(以及它为何重要)”,纽约时报,2021 年 9 月 6 日,https://www.nytimes.com/wirecutter/blog/state-of-privacy-laws-in-us/;平等信贷机会法案,15 U.S.C.§§ 1691-1691f。 3 Emmanuel Martinez 和 Lauren Kirchner,“抵押贷款审批算法中隐藏的秘密偏见”,The Markup,2021 年 8 月 25 日,https://themarkup.org/denied/2021/08/25/the-secret-bias-hidden-in-mortgage-approval-algorithms。4 同上。5 Laura Counts,“研究发现,少数族裔购房者面临广泛的统计贷款歧视”,加州大学伯克利分校哈斯商学院,2018 年 11 月 13 日,https://newsroom.haas.berkeley.edu/minority-homebuyers-face-widespread-statistical-lending-discrimination-study- finds/。
2 “《国会中的黑人美国人》中引用的宪法修正案和国会主要民权法案”,众议院历史、艺术和档案馆,https://history.house.gov/Exhibitions-and-Publications/BAIC/Historical-Data/Constitutional-Amendments-and-Legislation/;Thorin Klosowski,“美国消费者数据隐私法的现状(以及它为何重要)”,纽约时报,2021 年 9 月 6 日,https://www.nytimes.com/wirecutter/blog/state-of-privacy-laws-in-us/;平等信贷机会法案,15 USC §§ 1691-1691f。 3 Emmanuel Martinez 和 Lauren Kirchner,“抵押贷款审批算法中隐藏的秘密偏见”,The Markup,2021 年 8 月 25 日,https://themarkup.org/denied/2021/08/25/the-secret-bias-hidden-in-mortgage-approval-algorithms。4 同上。5 Laura Counts,“研究发现,少数族裔购房者面临广泛的统计贷款歧视”,加州大学伯克利分校哈斯商学院,2018 年 11 月 13 日,https://newsroom.haas.berkeley.edu/minority-homebuyers-face-widespread-statistical-lending-discrimination-study finds/。
2 “《国会中的黑人美国人》中引用的宪法修正案和国会主要民权法案”,众议院历史、艺术和档案馆,https://history.house.gov/Exhibitions-and-Publications/BAIC/Historical-Data/Constitutional-Amendments-and-Legislation/;Thorin Klosowski,“美国消费者数据隐私法的现状(以及它为何重要)”,纽约时报,2021 年 9 月 6 日,https://www.nytimes.com/wirecutter/blog/state-of-privacy-laws-in-us/;平等信贷机会法案,15 USC §§ 1691-1691f。 3 Emmanuel Martinez 和 Lauren Kirchner,“抵押贷款审批算法中隐藏的秘密偏见”,The Markup,2021 年 8 月 25 日,https://themarkup.org/denied/2021/08/25/the-secret-bias-hidden-in-mortgage-approval-algorithms。4 同上。5 Laura Counts,“研究发现,少数族裔购房者面临广泛的统计贷款歧视”,加州大学伯克利分校哈斯商学院,2018 年 11 月 13 日,https://newsroom.haas.berkeley.edu/minority-homebuyers-face-widespread-statistical-lending-discrimination-study finds/。
FLI 赞扬 NIST 在 AI RMF 初稿中强调“极有可能产生不利影响”的“低概率”事件或“不易预见”的事件(第 5 页第 28-30 行和第 6 页第 12-14 行)。我们的组织相信强调 AI 系统催化灾难性风险的潜力的价值,正如 AI RMF 概念文件(第 2 页第 15 行)中所述。我们建议在文档 1.0 版发布时重新纳入这一想法。这样做将有助于阐明越来越强大的 AI 系统可能引发全球长期直接和间接负面社会影响的可能性。此外,NIST 应考虑将以下概念纳入其 AI RMF:当 AI 系统大规模部署时,对个人影响较小到中等的低概率问题可能会聚集成大型社会问题。
有效和可靠的稳健性——“人工智能稳健性;准确;可靠,有效性;有效性;准确性;准确性和目的性和可靠性/可靠的稳健性验证和性能验证”驱动