机构名称：
¥ 9.0
执行总结数字内容伪造技术的快速发展构成了重大威胁，并对国土安全任务构成了重大风险。面部编辑和变形技术可以创造出现实的人体面孔，从而可能损害面部识别系统，从而导致未经授权的访问和身份管理中的违规行为。在视频中交换面孔的能力可能会破坏视觉验证过程的可靠性。语音克隆应用程序可以复制个人的声音，可能会对执法任务提出严重的挑战。生成人工智能（Genai）儿童性虐待材料（CSAM）正在增加。这种生成的材料是有害和非法的。诸如预防恐怖主义的任务变得复杂，因为数字内容伪造会促进动荡并促进激进化。数字内容伪造的含义扩展到确保网络空间和保护关键基础设施，例如通过设计和执行复杂的社会工程攻击。此外，他们威胁着基本任务的完整性，包括紧急和灾难管理，运输安全和海上意识。本报告提出了八个关键的技术观察和考虑因素：便利与安全：在对便利性增加的渴望下，政府身份管理系统（例如全球入境和真实ID）试图扩大用户通过Internet注册的能力。本报告评估了用于创建和传播数字内容伪造并描述其演变的技术；评估外国政府和非政府实体如何使用这些技术来武器化数字内容伪造；讨论武器化数字内容伪造的影响，并特别考虑国土安全任务；并且描述了降低风险的策略，以应对和减轻这些威胁。越来越多的Deepfake技术使用可以打败在线身份管理系统，建议谨慎，并认识到在线注册所带来的安全含义。多管齐下的缓解方法：我们目睹了生成和检测深击的方法之间的“猫与鼠标”游戏。检测高度确定性的深击将永远是一个挑战。考虑到将用于创建出于合法目的（包括电视和电影院）的Genai的量增加，这一挑战是更大的。明天的威胁：Genai技术正在改善并变得越来越广泛，这表明高度现实的欺骗性媒体的威胁只会随着技术加速的能力和可访问性而增长。AI软件：DeepFakes和创建它们的算法最终在软件中表现出来，这些软件受到网络攻击和剥削的影响。因此，许多迫在眉睫的网络安全问题会使AI和Genai风险复杂化。AI硬件和AI竞赛：将对美国对AI硬件平台的未来领导和控制。美国在这些领域的优势将受到未来市场和技术挑战的影响，例如供应链障碍和竞争，以避免使用主要供应商的筹码成本高昂。技术情报：民族国家级别的能力以现有的商业和开源AI体系结构为基础，但是由于民族国家既拥有独特的资源和独特的专有数据集来培训Genai模型，所以他们在数字内容伪造方面的未来熟练程度可能会增强。人工通用情报（AGI）里程碑：通过研究提高AGI将受益于描述用例和基准以及能量估计的框架，并将其用作成功标记或里程碑。
对抗使用生成AI对国土安全的影响
主要关键词
相关文件推荐
