详细内容或原文请订阅后点击阅览
人工智能：国土安全部需要改进关键基础设施部门的风险评估指导
美国政府问责署的发现在保护国家关键基础设施部门方面发挥主导作用的联邦机构被称为部门风险管理机构。这些机构与国土安全部 (DHS) 网络安全和基础设施安全局 (CISA) 协调，必须在 2024 年 1 月之前为每个关键基础设施部门制定并提交初步风险评估。尽管这些机构按要求向国土安全部提交了部门风险评估，但没有一个机构完全解决了为有效风险评估和缓解潜在人工智能 (AI) 风险奠定基础的六项活动。例如，虽然所有评估都确定了 AI 用例，例如监控和增强数字和物理监控，但大多数评估都没有完全识别潜在风险，包括风险发生的可能性。没有一项评估充分评估了风险水平，因为它们没有包括反映危害程度（影响程度）和事件发生概率（发生可能性）的测量值。此外，由于没有评估风险水平，因此没有一家机构完全将缓解策略映射到风险上。行业风险管理机构 (SRMA) 在其人工智能 (AI) 行业风险评估中解决六项活动的程度牵头机构对其好坏参半的进展提供了几个原因，包括只有 90 天的时间来完成
来源:美国政府问责局__国土安全 空间信息快速事实
人工智能复杂且不断发展。它可用于改进运行关键基础设施（如水和能源）的系统。但它也可能使它们更容易受到网络攻击。
保护关键基础设施的联邦机构必须评估人工智能对基础设施部门的风险。但国土安全部的评估指南并未让各机构全面衡量攻击可能造成的危害或攻击的可能性。这些信息将有助于各机构应对风险并促进负责任的人工智能使用。
我们建议国土安全部迅速更新其指南以解决此问题。
推荐亮点
GAO 的发现
在保护国家关键基础设施部门方面发挥主导作用的联邦机构被称为部门风险管理机构。这些机构与国土安全部 (DHS) 网络安全和基础设施安全局 (CISA) 协调，必须在 2024 年 1 月之前制定并向国土安全部提交每个关键基础设施部门的初步风险评估。尽管这些机构按要求向国土安全部提交了部门风险评估，但没有一个机构完全解决为有效风险评估和缓解潜在人工智能 (AI) 风险奠定基础的六项活动。例如，虽然所有评估都确定了 AI 用例，例如监控和增强数字和物理监控，但大多数评估并未完全识别潜在风险，包括风险发生的可能性。所有评估均未充分评估风险水平，因为它们没有包括反映危害程度（影响程度）和事件发生概率（发生可能性）的衡量标准。此外，没有机构将缓解策略完全映射到风险上，因为没有评估风险水平。