本报告是一系列研究中的第一份,旨在研究新兴技术对美国国土安全部 (DHS) 任务的影响和机遇。本分析的重点是基础模型 (FM) 带来的机遇,这是大型语言模型 (LLM) 的基础。FM 位于生成人工智能 (AI) 和大数据的交汇处,并描述了如何在许多不同的用例中使用数据的新方法。LLM 引起了人们对 FM 在语言方面数据和人工智能使用中发挥重要作用的关注。今天,许多用例都建立在行业创建的基于语言的 FM 之上。但其价值更深层次地延伸到更丰富的数据类别。新领域的用例——从基于基因组数据集、网络相关信息,到行李、货物和车辆的体积扫描——需要在构建和训练 FM 方面付出更多努力。此外,许多为法学硕士语言反应的蓬勃发展而设计和优化的方法(硬件和软件)需要在新的背景下理解。同时,建立在行业基础之上的更简单的切入点法学硕士可以提供更直接的实践经验和价值。
执行摘要 本报告是“准备”系列研究的一部分,1 该系列研究探讨了从新兴技术到极端天气和气候的影响,以及国土安全部 (DHS) 科学技术局 (S&T) 可以寻求的机会来支持该部门的任务。本分析的重点是对抗性人工智能 (AAI) 带来的风险——这种威胁可能会破坏我们对来自数字内容的信息的信任,但这种威胁可能以与传统网络安全威胁截然不同的方式出现,可能需要独特的技能才能理解和应对。本报告反映了国土安全部的总体科学和技术任务与国土安全部部分部门之间就 AAI 造成的当前风险状况进行的讨论;国家实验室和学术界就减轻这些攻击的潜在能力进行的讨论;但更广泛地说,它作为如何制定应对当前和未来 AAI 威胁的战略的参考。它以 2023 年 6 月举行的 S&T 国际研讨会“对抗性 AI 威胁的风险和缓解策略”为基础。总的来说,这项研究的贡献者包括国内外专家和政策制定者,他们认识到人工智能 (AI) 技术对国土安全的前景和好处很难被高估。它显然有潜力让我们的边境和入境口岸更加安全,最大限度地减少国土安全官员的认知负担,并帮助自动化固有增强国土安全服务、行动和人员的安全性、生产力和效率的流程。然而,人工智能的变革力量带来了新的挑战和新兴风险,即 AAI 或 AAI 攻击。在可能发生的各种形式的 AAI 攻击中(第 2 节中描述),AAI 专家认为逃避攻击和生成性欺骗性 AI 是近期对 DHS 任务的最大威胁。这些 AAI 类型结合起来尤其强大,使用生成性欺骗性 AI 创建的内容来逃避基于模型的推理过程。但是,由于 DHS 的 AI 技术仍处于早期开发阶段,其他 AAI 类型和形式的攻击将成为更大的问题,因为这些 AI 系统也容易受到各种其他形式的利用和滥用。这应该包括 AI“能力”的结合(例如,负责任、道德等)另一个得到 AAI 专家广泛支持的概念是,需要在系统生命周期的早期和整个过程中纳入 AAI 风险的分析和缓解,尽可能从最左边开始,以通过设计促进安全性。在我们的需求流程、AI 安全评估和 AI 标准开发中,在我们的系统工程流程中,以及需要开发全面的测试和评估工具、方法和程序来了解 AAI 风险并减轻系统和任务级别的后续威胁。这需要在测量和评估潜在漏洞程度的艺术和科学方面取得进步,探索使 AI 更加强大的方法。重要的是,我们如何应对 AAI 对国土的新兴影响将需要一个尚不存在的响应生态系统。我们如何努力支持联邦、州、地方、部落和领土执法部门和急救人员应对日益多样化的 AAI 可能性,将需要与这些社区进行新的讨论,以帮助制定优先事项。类似事件响应团队的构建可能很有价值,与 US-CERT 2 类似,但适用于完全不同的情况。与我们的盟友建立广泛的伙伴关系也将有助于在对抗 AAI 方面取得进展,不仅从了解影响,而且从制定标准甚至测试和评估方面。
沟通频率和沟通组件状态允许员工反馈工作,并评估计划和协作会议包括员工对程序的满意度。领导沟通。4.6:建立和维持参与机制,包括让员工参与规划和决策过程。
在过去 20 年中,威胁形势不断演变。在我们继续面临国际恐怖主义威胁的同时,新的威胁和挑战也不断出现,包括有针对性的暴力事件、网络攻击和数次自然灾害,以及我们半球前所未有的移民水平。26 万名国土安全部员工利用其技能和专业知识应对当今世界的挑战,并为未来的威胁做好准备,通过新计划和新能力、跨部门协作和对使命的坚定奉献来应对。如今,国土安全部涵盖二十多个机构和办公室,它们通力合作,在空中通过确保空中旅行安全来保护美国公众;在陆地上通过确保边境安全、应对自然灾害、保护关键基础设施和管理我们国家的合法移民系统来保护美国公众;在海上通过保护我们的海岸线和水道来保护美国公众;在网络空间通过加强美国的网络防御和调查网络犯罪来保护美国公众。
国土安全部每天与美国人民的互动比任何其他联邦机构都要多,从通过我们的空中、陆地和海港的旅客,到将货物进口到我们国家的企业,再到申请援助的灾难幸存者和申请福利的移民。这些互动中越来越多的部分是通过我们的信息技术系统进行的。国土安全部 IT 社区在我们部门中发挥着比以往任何时候都更为关键的作用。在此背景下,我很高兴分享 2028 年。在未来五年内,该计划将指导国土安全部的信息技术,作为我们现代化工作的试金石。具体来说,国土安全部的 IT 社区将:
我们发现国土安全部没有最新的战略计划来管理整个部门的生物识别能力。国土安全部发布了涵盖 2015-2025 年的生物识别战略框架,以解决生物识别能力差距并促进整个国土安全部的生物识别使用。尽管战略、政策和计划办公室 (PLCY) 现在打算这样做,但自 8 年前发布以来,该办公室一直没有更新这一战略框架。我们发现战略框架并未准确反映整个部门的生物识别现状,例如面部识别验证和身份识别的使用。此外,PLCY 尚未实施全部门政策来一致收集和使用生物识别信息。最后,国土安全部没有过渡计划来将美国海关和边境保护局的生物识别出入境系统与生物识别身份管理办公室的国土高级识别技术系统整合在一起进行生物识别匹配。PLCY 已采取措施确保国土安全部的生物识别能力需求与全部门的生物识别战略计划保持一致。然而,如果没有更新的战略计划和全部门一致收集和使用生物特征信息的政策,国土安全部可能无法确保已确定的计划生物特征能力需求与国土安全部的战略举措保持一致,并且可能错失加强生物特征实践和政策以支持其使命的机会。国土安全部的回应国土安全部同意所有四项建议。
(众议员格兰杰,德克萨斯州共和党)政府强烈反对众议院通过 H.R.4367,为国土安全部拨款,用于截至 2024 年 9 月 30 日的财政年度 (FY) 和其他目的。5 月,政府与议长就两党立法进行了诚意谈判,以避免首次违约,并保护国家来之不易的历史性经济复苏。此次谈判产生了 2023 年财政责任法案 (FRA),该法案以压倒性的两党支持通过,并设定了 2024 财年和 2025 财年的支出水平。该协议将非国防项目的支出与 2023 财年的水平大致持平,这一妥协保护了美国人依赖的重要项目免受众议院共和党人提出的严厉削减。该协议还保护了过去两年的历史性立法成就,包括《2022 年通胀削减法案》(IRA)、《2022 年尊重我们的 PACT 法案》、《CHIPS 和科学法案》以及《基础设施投资和就业法案》(两党基础设施法)。众议院共和党人有机会参与富有成效的两党拨款程序,但在财政年度结束前不到两周的时间里,他们却在浪费时间制定党派法案,将国内支出削减到远低于 FRA 协议的水平,危及美国人民的关键服务。这些水平将导致气候变化和清洁能源计划、基本营养服务、执法、消费者安全、教育和医疗保健的大幅削减。这些法案包括从 IRA 和其他重要立法中额外撤销数十亿美元,这将对降低能源成本和美国农村关键投资的清洁能源和能源效率计划造成不可接受的损害。法案草案还包括许多新的党派政策条款,这些条款将带来灾难性的后果,包括损害获得生殖保健的机会、威胁女同性恋、男同性恋、双性恋、变性人、酷儿和双性人 (LGBTQI+) 的健康和安全、危及婚姻平等、阻碍关键的气候变化举措,以及阻止政府促进多样性、公平和包容性。政府随时准备与国会两院合作,通过两党拨款程序,制定负责任的支出法案,及时为联邦机构提供全额资金。如果总统收到 H.R.4367,他会否决它。
我们感谢Brent Neiman,Sebastian Graves,Robert Kollmann,Werner Roeger,Narayana Kocherlakota和David Lopez-Salido进行了有益的讨论,以及在波士顿大学,Erasmus University,Erasmus University,Universidad Carlos III DEALRID INSTER,NORIDII INSTER,EINARID INUTHRE,EINAUDI,EINAUDI INSTER,EINADI I IMSIDIS of einaudi Instuction的杜克大学的研讨会参与者(2021年12月),国际货币政策会议(2022年5月),CEPR/EC/EER会议“ Covid-shock and the New宏观经济格局”(2022年10月10日),Boj-Cepr 7届国际宏观经济和财务会议(3月2023日),《经济夏季》(6月20日)会议(2023年7月)和CEPR SALENTO宏观会议(2023年7月)以供评论。我们特别感谢Diego Anzoategui,他在这项研究的中间阶段为我们提供了帮助。该材料基于美国国土安全部根据18STCBT00001-03-00的赠款奖励的工作。本文件中包含的观点和结论是作者的观点,不应被解释为一定代表美国国土安全部所表示或暗示的官方政策。该材料基于国家科学基金会在赠款号SES-2315629。本材料中表达的任何观点,发现,结论或建议都是作者的意见,不一定反映了国家科学基金会的观点。最后,所表达的观点是作者的观点,不一定是美联储委员会,美联储系统或国家经济研究局的观点。
首字母缩略词 • PNT:定位、导航和授时 • GPS:全球定位系统 • GNSS:全球导航卫星系统 • NIST:国家标准与技术研究所 • NIST IR:NIST 内部或跨机构报告 • NIST SP:NIST 特别出版物
我要求你们两位代表国防部以联合主席的身份领导这个工作组。工作组的成员应为所有办公室和机构的负责人。作为联合主席,你们应制定工作组的内部工作程序,并可从国防部各办公室和机构调派工作人员来支持其工作。工作组的权力不会改变法律赋予国防部官员的现有职能、权利、特权、权力、权威和职责,也不会改变任何与人工智能有关的指令或授权。
