目的 本文件涵盖了在国土安全部 (DHS) 内使用有条件批准的商用生成人工智能 (GenAI) 工具 1 的可接受使用,这些工具利用大型语言模型 (LLM)。这些行为规则适用于在政府提供的设备或任何访问 DHS 网络的设备上,使用有条件批准的商用 GenAI 工具的所有 DHS 人员。DHS 人员包括 DHS 信息系统和 IT 资源(例如网络、数据库、应用程序、工作站、笔记本电脑、移动计算设备,包括手机、智能手机和平板电脑)的所有用户,包括 DHS 员工、支持承包商、调遣人员和所有其他系统用户。本行为规则不适用于在 DHS 网络上作为可下载软件或应用程序采购和获取的 GenAI 工具的使用。此后,有条件批准的商用 GenAI 将被称为 GenAI 或 GenAI 工具,并且未来任何对批准的提及都将意味着有条件批准。
美国国土安全部 (DHS) 土著语言计划是加强拉丁美洲土著人的语言服务的一种手段,这些土著人在 DHS 计划、活动和行动中遇到并得到服务。DHS 认识到在其众多使命和职能中与英语能力有限 (LEP) 的人进行有效沟通的重要性,并致力于满足行政命令 13166《改善英语能力有限人士的服务获取途径》(2000 年 8 月 11 日)的要求。1 行政命令 13166 要求 DHS 为英语能力有限人士提供有意义的计划、服务和活动获取途径,同时符合且不过度加重该部门的基本使命。该部门的最新语言获取计划(可在 www.dhs.gov/language-access 上找到)描述了为英语能力有限人士提供此类有意义获取途径的语言获取要求和政策。这项土著语言计划详细说明了国土安全部将采取哪些关键措施来加强拉丁美洲土著人的语言使用,旨在补充更新后的语言使用计划。来自墨西哥、危地马拉和其他拥有大量土著人口的国家的移民数量显著增加。近年来,来自各个部门的报告和公众的民权投诉表明,有必要研究国土安全部如何加强为拉丁美洲土著语言使用者和其他稀有语言使用者提供的语言服务。2 因此,该计划侧重于加强国土安全部与拉丁美洲土著移民人口进行有效沟通的能力。在制定该计划时,国土安全部还研究了土著移民妇女和女孩的语言使用考虑因素,以支持国土安全部促进性别平等和防止移民制度中的性别歧视的目标。3
人工智能 (AI) 在网络安全中的应用有望增强国家抵御各种网络威胁的能力。例如,人工智能应用程序可用于检测和防御网络攻击。与此同时,它们也可能面临此类攻击的威胁。虽然负责任地使用人工智能有可能帮助解决紧迫的挑战,使世界更加繁荣、高效、创新和安全,但不负责任的使用可能会加剧社会危害,取代和剥夺工人的权力,扼杀竞争,并对国家安全构成风险。1 我们之前曾报告过,网络威胁可能来自寻求经济、政治或军事利益的恶意行为者。2 我们的报告指出,对手会非常积极地利用基于机器学习算法的网络防御系统。联邦机构的努力对于开发能够在检测和防御攻击的同时帮助识别和解决漏洞的软件至关重要。
这次弹劾显然不符合宪法规定的可弹劾罪行的门槛。宪法只允许因“叛国、受贿或其他重罪和轻罪”而弹劾。 弹劾权从未打算成为反对党成员骚扰行政部门官员的手段,以解决政策争议。不同意识形态的法律学者,包括每一位就该决议向国会作证的学者,以及之前在弹劾问题上站在国会共和党一边的保守派,都一致认为,弹劾马约卡斯部长是“滥用宪法”,而且没有“可认知的基础”。
本报告是一系列研究中的第一份,旨在研究新兴技术对美国国土安全部 (DHS) 任务的影响和机遇。本分析的重点是基础模型 (FM) 带来的机遇,这是大型语言模型 (LLM) 的基础。FM 位于生成人工智能 (AI) 和大数据的交汇处,并描述了如何在许多不同的用例中使用数据的新方法。LLM 引起了人们对 FM 在语言方面数据和人工智能使用中发挥重要作用的关注。今天,许多用例都建立在行业创建的基于语言的 FM 之上。但其价值更深层次地延伸到更丰富的数据类别。新领域的用例——从基于基因组数据集、网络相关信息,到行李、货物和车辆的体积扫描——需要在构建和训练 FM 方面付出更多努力。此外,许多为法学硕士语言反应的蓬勃发展而设计和优化的方法(硬件和软件)需要在新的背景下理解。同时,建立在行业基础之上的更简单的切入点法学硕士可以提供更直接的实践经验和价值。
执行摘要 本报告是“准备”系列研究的一部分,1 该系列研究探讨了从新兴技术到极端天气和气候的影响,以及国土安全部 (DHS) 科学技术局 (S&T) 可以寻求的机会来支持该部门的任务。本分析的重点是对抗性人工智能 (AAI) 带来的风险——这种威胁可能会破坏我们对来自数字内容的信息的信任,但这种威胁可能以与传统网络安全威胁截然不同的方式出现,可能需要独特的技能才能理解和应对。本报告反映了国土安全部的总体科学和技术任务与国土安全部部分部门之间就 AAI 造成的当前风险状况进行的讨论;国家实验室和学术界就减轻这些攻击的潜在能力进行的讨论;但更广泛地说,它作为如何制定应对当前和未来 AAI 威胁的战略的参考。它以 2023 年 6 月举行的 S&T 国际研讨会“对抗性 AI 威胁的风险和缓解策略”为基础。总的来说,这项研究的贡献者包括国内外专家和政策制定者,他们认识到人工智能 (AI) 技术对国土安全的前景和好处很难被高估。它显然有潜力让我们的边境和入境口岸更加安全,最大限度地减少国土安全官员的认知负担,并帮助自动化固有增强国土安全服务、行动和人员的安全性、生产力和效率的流程。然而,人工智能的变革力量带来了新的挑战和新兴风险,即 AAI 或 AAI 攻击。在可能发生的各种形式的 AAI 攻击中(第 2 节中描述),AAI 专家认为逃避攻击和生成性欺骗性 AI 是近期对 DHS 任务的最大威胁。这些 AAI 类型结合起来尤其强大,使用生成性欺骗性 AI 创建的内容来逃避基于模型的推理过程。但是,由于 DHS 的 AI 技术仍处于早期开发阶段,其他 AAI 类型和形式的攻击将成为更大的问题,因为这些 AI 系统也容易受到各种其他形式的利用和滥用。这应该包括 AI“能力”的结合(例如,负责任、道德等)另一个得到 AAI 专家广泛支持的概念是,需要在系统生命周期的早期和整个过程中纳入 AAI 风险的分析和缓解,尽可能从最左边开始,以通过设计促进安全性。在我们的需求流程、AI 安全评估和 AI 标准开发中,在我们的系统工程流程中,以及需要开发全面的测试和评估工具、方法和程序来了解 AAI 风险并减轻系统和任务级别的后续威胁。这需要在测量和评估潜在漏洞程度的艺术和科学方面取得进步,探索使 AI 更加强大的方法。重要的是,我们如何应对 AAI 对国土的新兴影响将需要一个尚不存在的响应生态系统。我们如何努力支持联邦、州、地方、部落和领土执法部门和急救人员应对日益多样化的 AAI 可能性,将需要与这些社区进行新的讨论,以帮助制定优先事项。类似事件响应团队的构建可能很有价值,与 US-CERT 2 类似,但适用于完全不同的情况。与我们的盟友建立广泛的伙伴关系也将有助于在对抗 AAI 方面取得进展,不仅从了解影响,而且从制定标准甚至测试和评估方面。
沟通频率和沟通组件状态允许员工反馈工作,并评估计划和协作会议包括员工对程序的满意度。领导沟通。4.6:建立和维持参与机制,包括让员工参与规划和决策过程。