准则始于从网络安全和基础设施安全局(CISA)的跨部门分析的见解,该跨部门对SRMAS和相关独立监管机构在2024年完成的特定部门的AI风险评估。2 CISA分析包括跨部门AI用例和采用中的模式的概况,并建立了三种不同类型的跨部门AI风险的基础分析:1)使用AI的攻击,2)针对AI系统的攻击,以及3)AI设计和实施中的攻击。dhs借鉴了这项分析以及现有美国政府政策的分析,以制定特定的安全和保障指南,以减轻确定的跨部门AI风险对关键基础设施的风险。指南纳入了国家标准技术研究所(NIST)AI风险管理框架(AI RMF),包括其四个功能,可帮助组织解决AI系统的风险:管理,地图,衡量和管理。3
6. 今年,随着越来越多的 GEF-6 和 GEF-7 项目达到 MTR 和 TE 里程碑,根据 GEF-8 RMF 一级指标的报告规模更大。无论是在完成阶段还是在实施后期阶段,这种分析对于 GEF 反思其成就和确定可能提高绩效的领域都具有重要意义。所呈现的结果涵盖了 2022 和 2023 财年的累计成就,可在 MTR 或 TE 上查看。今年的报告以去年开始的做法为基础,去年还结合 2019-2021 财年取得的成果介绍了实际成果。2019-2021 年的参考点是呈现最新值的基准。这三年是核心指标在项目中应用的第一年,因此显示了这些年报告核心指标的项目中极小部分的特定值。表 1 总结了今年的绩效,概述了每个核心指标的实际结果。
AI将由攻击者利用,并在2023年12月的辩护人中杠杆率,Google Cloud发布了2024年的网络安全预测。该报告预测,生成的AI和大型语言模型(LLM)将用于各种网络攻击,例如网络钓鱼,SMS和其他类型的社会工程。同时,防守者还将使用AI来扩大对手的更快检测,响应和归因,以及更快的分析和反向工程。政府领导人意识到AI的潜在影响,并已开始开发治理机制和框架以确保其安全使用。具体来说,国家标准技术研究所(NIST)的人工智能风险管理框架(AI RMF 1.0)和拜登总统的AI行政命令(EO)因促进“安全,安全且可信赖的人工智能发展和使用”。 AI EO超过100页,将极大地影响AI在跨组织之间的部署和开发方式,有些尚不清楚。我们将观看AI EO如何转化为总统2025财政年度的预算。
本文档的主要目的是定义田纳西州的企业生成人工智能(Gen AI)政策,以及沟通,实施和支持此政策所需的组织和框架。信息与田纳西州拥有的任何其他资产一样,对国家的利益相关者具有重要的价值。本政策通过启用和确保对AI代的有效,可靠,透明和道德使用,建立并坚持保护州信息以及每个部门和机构所做的工作所必需的最低要求。在本文档的其余部分中,生成的AI将被称为Gen AI。本政策进一步提供了一个治理框架,以沟通并确保国家标准技术研究所(NIST)人工智能风险管理框架(AI RMF 1.0)所规定的对AI Gen Technologies的责任,安全和安全使用。该政策与州长的行政命令号2,要求每位员工避免在官方渠道之外做出政府决定的行动,从而对公众对政府诚信的信心产生不利影响。简介
COVID-19 2019 冠状病毒病 C3I 指挥、控制、通信和情报 CDD 能力开发文档 CDR 关键设计评审 DAES 国防采办执行摘要 DAMIR 国防采办管理信息检索 DOD 国防部 DODI 国防部指令 IOC 初始作战能力 IOT&E 初始作战测试与评估 IT 信息技术 JCIDS 联合能力集成与开发系统 JROC 联合需求监督委员会 KPP 关键性能参数 KSA 关键系统属性 MDAP 主要国防采办计划 MRL 制造准备水平 MTA 中层采办 MVP 最小可行产品 NA 不适用 NDAA 国防授权法案 OSD 国防部长办公室 PDR 初步设计评审 RDT&E 研究、开发、测试与评估 RFP 提案请求 RMF 风险管理框架 TBD 待定 T&E 测试与评估 TRL 技术准备水平 USD(A&S) 国防部负责采办与保障的副部长 USD(R&E) 国防部负责研究与工程的副部长
成功的AI治理需要在AI系统的社会技术性质方面的专业知识。1,因为AI的现实使用始终嵌入了较大的社会机构和权力动态中,因此仅技术评估就不足以管理AI。技术,社会实践和文化规范,系统被整合到并签署和运营的环境都影响了AI系统的绩效,失败,福利和危害。2作为美国国家标准技术研究所(NIST)AI风险管理框架(RMF),该框架旨在为组织开发,部署或使用AI系统提供指导,正确地指出:“ AI系统本质上是社会技术的,这意味着它们受社会动态和人类行为的影响。” 3社会技术研究,“一种在其社会,政治,经济和文化环境中研究技术的方法”,4可以改善系统设计,5揭示歧视,6和提前的帐户能力,以纯粹的技术方法评估AI系统无法进行的技术方法。7
这项工作介绍了可信和安全的人工智能系统 (TAIS) 的生命周期。我们考虑在 TAI 生命周期中应用风险管理框架 (RMF),以及这如何影响在 AI 系统开发的各个阶段所做的选择。AI 系统的新兴要求超越了传统的软件工程 (SE) 开发周期的设计、开发和部署 (DDD),其中测试、评估、验证和确认 (TEVV) 起着至关重要的作用。特别是,SE 中的额外挑战是 AI 系统通常是:(i) 数据驱动的,(ii) 可以学习和 (iii) 具有自适应性。此外,考虑 AI 系统对用户和更广泛社会的影响对于其可信和安全的部署至关重要。为了实现 TAIS,我们还考虑了测量方面,这体现在可量化指标的规范中,这些指标既能捕捉 TAI 的技术原则,又能捕捉社会技术原则,使我们能够评估 AI 系统的可信度。TAI 生命周期是一个迭代和连续的过程,因此正在开发的 AI 系统正在不断发展,并且可以采取纠正措施来处理生命周期任何阶段出现的问题。
1. 国家安全系统委员会 (CNSS) 指令第 1253 号《国家安全系统的安全分类和控制选择》为所有联邦政府部门、机构、局和办公室提供了有关国家安全系统 (NSS) 风险管理框架 (RMF) 的前两个步骤(分类和选择)的指导。本指令以美国国家标准与技术研究所 (NIST) 特别出版物 (SP) 800-53《联邦信息系统和组织的安全和隐私控制》为基础并作为其配套文件;因此,其格式与该文件的章节编号方案一致。信息系统安全工程师、授权官员、高级信息安全官员和其他人员应使用本指令来选择和商定适当的 NSS 保护措施。 2. 发布本指令的权力来自国家安全指令 42《国家安全电信和信息系统安全国家政策》,该指令概述了确保 NSS 安全的角色和职责,符合适用法律、E.O。 12333 号修正案和其他总统指令。本指令中的任何内容均不得改变或取代国家情报总监的权力。3. 本指令取代 2012 年 3 月 15 日发布的 CNSSI No. 1253。4. 所有 CNSS 成员组织都应计划过渡到新版本的
摘要:2020 年,COVID-19 的迅速蔓延迫使世界卫生组织 (WHO) 宣布 COVID-19 为全球大流行病。根据世卫组织的说法,预防此类病毒的对策之一是在公共场所佩戴口罩。本文提出了一种基于中性 RGB 和深度迁移学习提取特征的口罩检测模型。建议的模型分为三个步骤,第一步是转换到中性 RGB 域。这项工作被认为是将中性 RGB 转换应用于图像域的首次尝试之一,因为它通常用于灰度图像的转换。第二步是使用层数较少的 Alexnet 进行特征提取。第三步使用两种传统的机器学习算法创建检测模型:决策树分类器和支持向量机 (SVM)。将模拟口罩人脸数据集(SMF)与真实口罩人脸数据集(RMF)合并为一个包含两个类别(戴口罩人脸、不戴口罩人脸)的数据集,实验结果表明,真(T)中性域的SVM分类器测试准确率最高,为98.37%。
(1) 信息和技术助理部长/...................................................................... 9 (2) 信息技术办公室(OIT) 负责信息安全副助理部长。 ........................................................................................................................... 10 (3) 采购、物流和建设办公室执行主任 ...................................................................................................... 11 (4) OIT 负责发展、安全和运营的副助理部长(DAS DevSecOps) ............................................................................................................. 11 (5) OIT 负责企业项目管理办公室的副助理部长 ............................................................................................. 11 (6) OIT 负责信息技术运营和服务的副助理部长(ADAS ITOPS) ............................................................................................. 11 (7) 副部长、助理部长和其他主要官员 ............................................................................. 12 (8) 负责隐私的高级机构官员 (SAOP) ............................................................................................. 12 (9) VA 企业架构师应: ............................................................................................................. 12 (10) 风险管理框架技术咨询组 (RMF TAG) 应 ............................................................................................. 12 (11) 信息系统安全官 (ISSO) ............................................................................................................. 13 (12) 信息系统安全经理 ............................................................................................................. 16 (13) 授权官员(AO) ...................................................................................................... 17 (14) 授权官员指定代表 .............................................................................................. 17 (15) 信息系统所有者 ........................................................................................................ 17 (16) 首席隐私官 ................................................................................................................ 19 (17) 隐私官 ...................................................................................................................... 19 (18) 信息系统安全工程师 ............................................................................................. 19 (19) 安全控制评估员 ............................................................................................................. 19 (20) 信息安全架构师 ............................................................................................................. 20 (21) 风险执行职能………………………………………………………………………………20