详细内容或原文请订阅后点击阅览
人工智能：全面实施关键实践可以帮助国土安全部确保负责任地使用网络安全
GAO 发现的内容为了提高透明度并让公众了解人工智能 (AI) 的使用方式，第 13960 号行政命令要求联邦机构维护人工智能用例清单。美国国土安全部 (DHS) 已经建立了这样的清单，并发布在该部门的网站上。但是，国土安全部的网络安全人工智能系统清单并不准确。具体来说，清单确定了两个人工智能网络安全用例，但官员告诉我们，其中一个被错误地定性为人工智能。尽管国土安全部在将用例添加到人工智能清单之前有一个审查用例的流程，但该机构承认，它并不能确认用例是否被正确地定性为人工智能。在扩大流程以纳入此类决定之前，国土安全部将无法确保准确的用例报告。国土安全部已经实施了 GAO 人工智能问责框架中的部分但不是全部关键实践，用于管理和监督人工智能在网络安全中的使用。 GAO 评估了剩下的一个网络安全用例，称为自动个人身份信息 (PII) 检测，对照从框架中选出的 11 种人工智能实践（见图）。国土安全部实施选定的管理和监督人工智能关键实践的状况网络安全 GAO 发现，国土安全部全面实施了 11 项关键实践中的 4 项，并在治理、绩效和监控领域不同程度地实施了另外 5 项实践。据官员称，它没有实施两项做法：记录用于开发 PII 检测能力的数据的来源和来源，以及评估数据的可靠性。 GAO 的人工智能框架要求管理层从应用程序的开发到运营和维护的整个过程中，对应用程序中使用的数据的质量、可靠性和代表性提供合理的保证。解决数据源和可靠性对于模型准确性至关重要。全面实施关键实践可以帮助国土安全部确保负责任地使用人工智能。 美国政府问责局为何进行这项研究2023 年 10 月发布的第 14110 号行政命令指出，负责任的人工智能使用有可能帮助解决紧迫的挑战，让世界变得更加美好安全、不负责任的使用可能会加剧社会危害并对国家安全构成风险。根据 2020 年发布的第 13960 号行政命令的要求，国土安全部自 2022 年以来一直维护其人工智能用例清单。本报告审查了国土安全部 (1) 验证其网络安全和人工智能系统清单准确性的程度。 (2) 纳入 GAO 人工智能问责框架中的精选实践，以管理和监督人工智能在网络安全中的使用。GAO 审查了相关法律、OMB 指南和机构文件，并采访了 DHS 官员。 GAO 将框架中的 11 项关键实践应用于 DHS 的 AI 网络安全用例——自动 PII 检测。 DHS 使用此工具来
来源:美国政府问责局__国土安全 空间信息美国政府问责署的发现
为了提高透明度并让公众了解人工智能 (AI) 的使用方式，第 13960 号行政命令要求联邦机构维护一份 AI 用例清单。美国国土安全部 (DHS) 已经建立了这样的清单，并发布在该部门的网站上。
然而，国土安全部的网络安全 AI 系统清单并不准确。具体来说，清单确定了两个 AI 网络安全用例，但官员告诉我们，其中一个被错误地归类为 AI。尽管国土安全部有一个在将用例添加到 AI 清单之前对其进行审查的流程，但该机构承认，它无法确认这些用例是否被正确地归类为 AI。在国土安全部将其流程扩展至包括此类确定之前，国土安全部将无法确保准确的用例报告。
国土安全部已经实施了美国政府问责署 AI 问责框架中的部分但并非全部关键实践，以管理和监督其在网络安全中使用 AI。美国政府问责署评估了剩下的一个网络安全用例，即自动个人身份信息 (PII) 检测——针对从框架中选出的 11 种人工智能实践（见图）。
国土安全部实施选定的关键实践以管理和监督网络安全人工智能的现状
美国政府问责署进行这项研究的原因
2023 年 10 月发布的第 14110 号行政命令指出，虽然负责任地使用人工智能有可能帮助解决紧迫的挑战并使世界更加安全，但不负责任的使用可能会加剧社会危害并对国家安全构成风险。根据 2020 年发布的第 13960 号行政命令的要求，国土安全部自 2022 年以来一直维护其人工智能用例的清单。