该网络及其支持生态系统对美国的战略和经济利益至关重要,但它们面临着来自自然、意外和恶意威胁的复杂且具有挑战性的风险。虽然全球三分之二的电缆故障归因于捕鱼和拖锚等意外活动,但鉴于我们的全球通信网络对这些系统的过度依赖,海底电缆运行中断可能会产生直接而深远的影响。电缆行业长期以来一直在其系统中构建弹性,以减轻每年发生的数百起事件的影响,并且主要依靠冗余(多个系统、过剩容量和备用路由)来确保受损系统进行维修时全系统的弹性。然而,与此同时,大国竞争的复苏增加了外国对手干扰海底通信网络的可能性,这些网络承载着敏感的政府和其他类型的关键信息,我们的国家和经济安全依赖于这些信息。
执行摘要 本报告是“准备”系列研究的一部分,1 该系列研究探讨了从新兴技术到极端天气和气候的影响,以及国土安全部 (DHS) 科学技术局 (S&T) 可以寻求的机会来支持该部门的任务。本分析的重点是对抗性人工智能 (AAI) 带来的风险——这种威胁可能会破坏我们对来自数字内容的信息的信任,但这种威胁可能以与传统网络安全威胁截然不同的方式出现,可能需要独特的技能才能理解和应对。本报告反映了国土安全部的总体科学和技术任务与国土安全部部分部门之间就 AAI 造成的当前风险状况进行的讨论;国家实验室和学术界就减轻这些攻击的潜在能力进行的讨论;但更广泛地说,它作为如何制定应对当前和未来 AAI 威胁的战略的参考。它以 2023 年 6 月举行的 S&T 国际研讨会“对抗性 AI 威胁的风险和缓解策略”为基础。总的来说,这项研究的贡献者包括国内外专家和政策制定者,他们认识到人工智能 (AI) 技术对国土安全的前景和好处很难被高估。它显然有潜力让我们的边境和入境口岸更加安全,最大限度地减少国土安全官员的认知负担,并帮助自动化固有增强国土安全服务、行动和人员的安全性、生产力和效率的流程。然而,人工智能的变革力量带来了新的挑战和新兴风险,即 AAI 或 AAI 攻击。在可能发生的各种形式的 AAI 攻击中(第 2 节中描述),AAI 专家认为逃避攻击和生成性欺骗性 AI 是近期对 DHS 任务的最大威胁。这些 AAI 类型结合起来尤其强大,使用生成性欺骗性 AI 创建的内容来逃避基于模型的推理过程。但是,由于 DHS 的 AI 技术仍处于早期开发阶段,其他 AAI 类型和形式的攻击将成为更大的问题,因为这些 AI 系统也容易受到各种其他形式的利用和滥用。这应该包括 AI“能力”的结合(例如,负责任、道德等)另一个得到 AAI 专家广泛支持的概念是,需要在系统生命周期的早期和整个过程中纳入 AAI 风险的分析和缓解,尽可能从最左边开始,以通过设计促进安全性。在我们的需求流程、AI 安全评估和 AI 标准开发中,在我们的系统工程流程中,以及需要开发全面的测试和评估工具、方法和程序来了解 AAI 风险并减轻系统和任务级别的后续威胁。这需要在测量和评估潜在漏洞程度的艺术和科学方面取得进步,探索使 AI 更加强大的方法。重要的是,我们如何应对 AAI 对国土的新兴影响将需要一个尚不存在的响应生态系统。我们如何努力支持联邦、州、地方、部落和领土执法部门和急救人员应对日益多样化的 AAI 可能性,将需要与这些社区进行新的讨论,以帮助制定优先事项。类似事件响应团队的构建可能很有价值,与 US-CERT 2 类似,但适用于完全不同的情况。与我们的盟友建立广泛的伙伴关系也将有助于在对抗 AAI 方面取得进展,不仅从了解影响,而且从制定标准甚至测试和评估方面。
管理和预算办公室 (OMB) 力求通过加强用于检测可能威胁组织 IT 环境的网络风险的流程和技术来加强国家的网络安全态势。2013 年,OMB 将网络安全确定为跨机构优先目标,并发布了持续管理信息安全风险的指南。1 具体而言,该指南要求联邦机构建立信息安全持续监控 (ISCM) 计划,以帮助识别和应对新出现的网络威胁。ISCM 是一种持续了解信息安全风险、漏洞和威胁以支持组织风险管理决策的做法。通过建立 ISCM,联邦机构可以收集信息,为组织风险管理决策提供信息并提供支持,并减少对硬件和软件资产的威胁。OMB 还要求联邦机构制定计划并设定优先事项,以了解和管理网络安全风险。
2018 年 3 月,总统管理议程设立了一个跨机构优先目标,以创建机构管理和使用数据的最佳实践。为了促进总统管理议程,管理和预算办公室于 2019 年制定了多年期联邦数据战略 (FDS)。FDS 是一个操作原则和最佳实践的框架,旨在指导联邦数据的管理和使用。通过一致的数据基础设施和实践,该战略将使联邦政府能够充分利用数据作为战略资产。该战略描述了一个为期 10 年的长期愿景,即联邦政府将如何加速使用数据来履行机构使命并为公众服务,同时保护数据安全、隐私和机密性。
1. 自 2021 年 1 月 20 日起至本请求处理之日,以下国土安全部官员与中国组织之间的通信记录:官员:I. 秘书 II. 副秘书 III. 执行秘书 IV. 负责国际事务的助理秘书 V. 首席安全官 VII. 负责反恐和威胁预防的助理秘书 VIII. 负责网络、基础设施、风险和复原力的助理秘书 IX. 负责国际事务的助理秘书 X. 负责贸易和经济安全事务的助理秘书 XII. 公共事务办公室助理秘书 XIII. 上述各办公室的参谋长。组织:a. 华为 b. 箩筐技术 c. 曙光信息产业股份有限公司或中科曙光 d. 中音号科技股份有限公司(GOWIN) e. 中国商用飞机有限责任公司 f. 三峡集团公司 g. 北京中关村发展投资中心、中关村发展集团或中关村资本 h. 中微半导体设备有限公司(AMEC) i. 中国建筑技术有限公司(CCTC)中国国际工程咨询公司 (CIECC) k. 中国建筑工程总公司 l. 中国商用飞机有限责任公司 (COMAC) m. 中国中化集团有限公司 n. 中译语通科技股份有限公司 (GTCOM) o. 高云半导体公司 p. 大新华航空股份有限公司 (GCAC) q. 中国长江三峡集团有限公司 r. 中国航空集团有限公司 (CNAH) s. 中国化学工程集团有限公司 (CNCEC) t. 中国化工集团公司 (ChemChina) u. 邮政储蓄银行 v. 中国投资公司 w. 方正集团 x. 渤海资本 y. 渤海华润 z. 中国华信能源 aa. 国家能源香港有限公司 : “字节跳动”为其中一家公司 ('@bytedance.com')(记录搜索的日期范围:从 2021 年 1 月 20 日到 2022 年 9 月 20 日)
人工智能 (AI) 在网络安全中的应用有望增强国家抵御各种网络威胁的能力。例如,人工智能应用程序可用于检测和防御网络攻击。与此同时,它们也可能面临此类攻击的威胁。虽然负责任地使用人工智能有可能帮助解决紧迫的挑战,使世界更加繁荣、高效、创新和安全,但不负责任的使用可能会加剧社会危害,取代和剥夺工人的权力,扼杀竞争,并对国家安全构成风险。1 我们之前曾报告过,网络威胁可能来自寻求经济、政治或军事利益的恶意行为者。2 我们的报告指出,对手会非常积极地利用基于机器学习算法的网络防御系统。联邦机构的努力对于开发能够在检测和防御攻击的同时帮助识别和解决漏洞的软件至关重要。
我们的发现 我们对之前的国土安全部监察长办公室和美国政府问责局 (GAO) 监督报告的审查发现,国土安全部的战略规划工作存在反复出现的挑战。我们之前报告过,国土安全部及其部门未能及时更新战略指导 (1) 在规定的截止日期之前,或 (2) 未能反映会对战略指导所针对的风险环境产生重大影响的新信息。在对 2018 年至 2022 财年发布的报告进行审查时,我们发现 7 份之前的国土安全部监察长办公室报告和 7 份之前的 GAO 报告引用了 20 份过时或已过期的国土安全部战略指导文件。自这些监督报告发布以来,国土安全部及其部门已经更新了 20 份战略指导文件中的 9 份。然而,其中 11 份文件仍然过时或已过期。此外,部门内的其他战略指导文件也可能过时或已过期。更新这些战略指导文件的要求各不相同;并且这些文件已经过时或过期,原因各不相同,包括领导挑战、资源不足和其他业务活动的优先次序。缺乏最新的战略指导增加了 DHS 及其部门根据过时或过期的信息做出运营和预算决策的风险,这可能会降低他们应对最新和最关键挑战的能力。部门回应 DHS 同意我们的建议。我们认为这些建议是开放的和已解决的。
国土安全部的一个关键任务领域是确保网络空间和关键基础设施的安全。1 这项任务从未如此重要,因为人们和设备与互联网以及彼此之间的连接性不断增强,从而产生了一个不断扩大的攻击面,该攻击面遍布全球,几乎进入了每个美国家庭。2 此外,美国人越来越依赖互联网和社交媒体获取新闻。例如,在 2021 年的一项调查中,93% 的美国成年人使用互联网,而 2000 年这一比例为 52%。3 随着越来越多的人依赖互联网获取信息,他们更容易受到社交媒体上出现的操纵、虚假信息和宣传活动的攻击。虚假新闻,例如错误信息、虚假信息和恶意信息 4 被用来塑造舆论、破坏信任、加剧分裂和挑起不和。5
主题:国土安全部发起使用人工智能改进情报收集和分析的努力 附件是供您参考的最终报告,即《国土安全部发起使用人工智能改进情报收集和分析的努力》。我们采纳了贵办公室提供的正式意见。该报告包含八项建议,旨在改进国土安全部情报部门为情报收集和分析而开发、获取、采用和维护人工智能能力的努力。贵办公室同意所有八项建议。根据您对报告草案的回复中提供的信息,我们认为建议 1 至 8 是开放和已解决的。贵办公室全面实施建议后,请在 30 天内向我们提交正式的结案信,以便我们结案。备忘录应附上已完成商定纠正措施的证据。请将您的回复或结案请求发送至 OIGAuditsFollowup@oig.dhs.gov。根据《监察长法》规定的职责,我们将向负责监督和拨款国土安全部的国会委员会提供报告副本。我们将在我们的网站上发布报告,供公众传播。如有任何问题,请联系我,或者您的工作人员可以联系审计副监察长 Kristen Bernard,电话:202-981-6000。附件
何时使用此表格 1. 此表格满足《联邦法规》中关于船舶、商业潜水作业和外大陆架 (OCS) 设施的伤亡和事故书面报告的要求。根据事件的具体情况,如果满足说明 2 - 4 中描述的一个或多个条件,则可能需要提供书面报告。 2. 船舶。如果您是船舶的船东、代理人、船长、操作员或负责人,除公共船舶或未经检验的休闲船舶或州编号船舶外,您必须提交报告,如果您的船舶:A. 涉及美国、其领土或属地的可航水域发生的海难或事故,并且符合第 10 类中的任何标准,或 B. 是涉及海难或事故的美国船舶,无论此类海难或事故发生在何处,并且符合第 10 类中的任何标准,或 C. 是从事 33 CFR 140.10 定义的 OCS 活动的外国船舶,并且涉及符合第 10 类中的任何标准的海难或事故,或 D. 是在美国管辖水域(包括专属经济区 (EEZ))内作业的外国油轮,并且对环境造成重大损害或造成影响船舶适航性或效率的物质损失。3. 潜水。A. 商业潜水。如果您是进行商业潜水作业的船舶或设施的船长或负责人:(1) 在任何深水港或其如 33 CFR 第 150 部分所定义的安全区;(2) 从外大陆架 (OCS) 上的任何人工岛、设施或其他设备以及如 33 CFR 第 147 部分所定义的邻近水域或者与 OCS 上的活动相关的区域;(3) 从任何需要持有海岸警卫队签发的检验证书的船舶,包括移动式海上钻井装置,无论其地理位置如何;或者 (4) 从任何与深水港相连的船只或在深水港安全区内,或从任何从事 OCS 相关活动的船只上,如果发生符合第 11 项标准的潜水伤亡,您必须提交报告,除非潜水作业:1. 由教育机构仅为海洋科学研究和开发目的而执行,2. 仅为研究和开发潜水设备和技术的进步而执行,或者 3. 由政府机构或在政府机构控制下仅为搜救或相关公共安全目的而执行。B:所有其他潜水。任何人从符合指令 2 的船只潜水并使用水下呼吸器时发生受伤或丧生的事件都必须根据指令 2 进行报告。4. 外大陆架 (OCS) 设施。如果您是设施的所有者、经营者、或负责从事 33 CFR 140.10 中定义的 OCS 活动的 OCS 设施的人员,如果您的设施发生符合第 12 部分中任何标准的伤亡或事故,您必须提交报告。