美国国家标准与技术研究所 (NIST) 的联邦信息处理标准出版物系列是与根据 1996 年《信息技术管理改革法》第 5131 节(公法 104-106)和 2002 年《联邦信息安全管理法》(公法 107-347)的规定通过和颁布的标准和指南有关的官方出版物系列。这些规定赋予商务部长和 NIST 重要责任,以改善联邦政府对计算机和相关电信系统的使用和管理。NIST 通过其信息技术实验室,为政府在这些领域的标准和指南的制定工作提供领导、技术指导和协调。
设计一个框架和标准化的“安全影响研究”,该研究应轻量级,基于现有标准(例如美国国家标准与技术研究所或 CISA 的安全设计原则),并且易于技术人员和非技术人员使用和执行。该研究需要能够以经济高效的方式进行。然后,这些影响研究应以志愿者或自愿加入的方式进行,并提供给任何属于国家关键基础设施的组织。研究结果应仅提供给该组织。CISA 应定期公开发布汇总/匿名数据。
2. 到 2024 年 9 月,联合技术服务公司(也称为华盛顿技术解决方案公司)应与内阁机构合作,向州长提交一份报告,确定与机构运营和目标相关的潜在生成式人工智能计划。该报告应评估将生成式人工智能整合到机构运营和服务中的可行性、好处和挑战。该报告还必须包括华盛顿技术解决方案公司建立基础设施以开展涉及生成式人工智能技术的项目试点的计划和时间表,包括用于测试此类项目的获批环境。3. 到 2024 年 9 月,华盛顿技术解决方案公司应与企业服务部 (DES) 合作,发布公共部门采购、使用和持续监测生成式人工智能技术使用的初步指南。这些指南应以白宫的《人工智能权利法案蓝图》和美国国家标准与技术研究所的《人工智能风险管理框架》为指导,并解决安全性和有效性、算法歧视、数据隐私和网络安全问题。这些指南应包括一项要求,即任何向机构提供高风险生成式人工智能系统的供应商必须证明其已实施符合美国国家标准与技术研究所人工智能风险管理框架的人工智能治理计划。华盛顿科技大学和教育标准与技术研究所应通过在相关机构的网站上发布的方式向公众公布这些指南。
2019 年 5 月 10 日 Elham Tabassi,美国国家标准与技术研究所 100 Bureau Drive, Stop 200 Gaithersburg, MD 20899 尊敬的 Tabassi 女士, 谨代表数据创新中心 (datainnovation.org),我们非常高兴针对美国国家标准与技术研究所 (NIST) 关于人工智能 (AI) 标准的信息请求提交意见。1 数据创新中心是研究数据、技术和公共政策交叉领域的领先智库。该中心在华盛顿特区和布鲁塞尔设有工作人员,制定并推广务实的公共政策,旨在最大限度地发挥公共和私营部门数据驱动创新的效益。它向政策制定者和公众介绍与数据相关的机遇和挑战,以及重要的数据相关技术趋势。该中心是一家非营利、无党派研究机构,隶属于信息技术和创新基金会。强大的人工智能技术标准对于该技术在美国和国外的成功至关重要,因为它们可以作为人工智能开发和评估的权威指南和基准。然而到目前为止,对人工智能监管的担忧阻碍了关于标准制定的富有成效的讨论,导致政策制定者优先考虑监管而忽视了技术理解。NIST 应该将这一重点转移回技术标准制定,为未来任何加强人工智能监管的努力提供可靠的科学基础。此外,NIST 应加强美国在制定人工智能标准和鼓励广泛采用人工智能标准方面的领导地位,以确保全球市场竞争激烈。
审查员,并担任美国国家标准与技术研究所、科学领域委员会组织、血迹模式分析小组委员会的指定成员。她还是乔治华盛顿大学法医学研究生院的兼职教授。她的个人奖项包括联邦执法女性沃尔玛领导力奖和执法领域亚裔美国人进步米尔顿吴成就奖。她是政府高级行政服务指导计划的执行女性校友。她是主任多元化和包容性委员会的执行发起人,并积极支持该机构的多元化、公平、包容性和无障碍计划。
政府使用生成式人工智能面临的一个结构性挑战是,它的“推理”本质上是不透明的,人工智能无法展示其工作。此外,生成式人工智能系统也会犯错误,有时会完全捏造事实(称为幻觉)。此外,人工智能系统的好坏取决于其数据,并会表现出各种形式的偏见。重要的是,政府不要盲目依赖人工智能的产出,并制定计划应对人工智能系统不可避免的故障。美国国家标准与技术研究所 (NIST) 有一个人工智能风险管理框架,该框架有助于指导立法者,最近的一份简介专门关注生成式人工智能。
美国国家标准与技术研究所 (NIST),前身为国家标准局,由美国国会于 1901 年成立,负责建立测量基础以促进美国和国际贸易。NIST 提供参考资料和参考仪器,用于确保科学、工业和技术领域测量结果的准确性、计量可追溯性和可比性。本文档提供并解释了 NIST 使用的词汇,用于定义和描述 NIST 客户可用的参考资料和参考仪器,以及记录开发这些资料的方法。提供的定义和描述取代了本出版物原始版本 NIST SP260-136 中使用的定义和描述。1 范围