遗憾的是,面对如此海量的数据,许多操作员可能比以往任何时候都更缺乏信息。这是因为,在生成和传播的海量数据与人们找到所需信息并将其与其他信息一起处理以获得决策所需的实际信息的能力之间存在巨大差距。这些信息还必须得到正确的整合和解读;这是一项经常很棘手的任务。无论工作是在驾驶舱还是在办公桌后,这个问题都是真实存在的。人们越来越普遍地认识到,更多的数据并不等于更多的信息。自动化和“智能系统”的问题往往只会加剧而不是缓解这一问题(Endsley 和 Kiris,1995 年;Sarter 和 Woods,1995 年)。
与界面形式无关的设计理念。一些广泛的原则与 GCS 的整体功能有关,特别是从所有子系统共同运行中产生的属性或特征。例如,Norman (1988) 和 Shneiderman 和 Plaisant (2005) 提出的人机界面一般设计原则。这些原则处理诸如界面的内部一致性、对控制输入的反馈需求以及防止、检测和恢复预期操作员错误的功能等问题。Endsley 和 Jones (2012) 提出了一套 50 条设计原则,旨在最大限度地提高态势感知能力。北约关于 UAS 人机界面的指导方针草案提到需要考虑认知工程问题,包括反馈、心理工作量、一致性、最小化记忆负荷、一致性和适应个体差异 (NATO, 2007)。
行为会以意想不到的方式产生偏见。例如,如果训练数据不够广泛,无法涵盖各种可能事件,它可能会偏向于无法很好地扩展到未知数据集的解决方案。此外,我们并不总是知道人工智能系统在进行匹配时会关注哪些特征。研究发现,有大量人工智能无意中学习到不适当的性别和种族偏见的案例(Garcia,2016 年;Miller、Katz 和 Gans,2018 年)。对国防部来说,关键在于,如果美国依赖人工智能进行信息处理或关键系统软件(例如,船舶、飞机或无人系统中的自主操作),外国可能会巧妙地操纵人工智能学习偏见,以“训练”美国人工智能走向错误模式,作为欺骗和破坏的手段(Endsley & Jones,2001)。
Jeremy S. Young (0082179) (记录律师) Roetzel & Andress, LPA 41 S. High Street, 21 楼 Columbus, OH 43215 电话:(614) 463-9770 电子邮件:jyoung@ralaw.com Amicus Curiae 律师 FirstEnergy Service Company Joseph R. Miller (0068463) (记录律师) Thomas H. Fusonie (0074201) John M. Kuhl (0080966) Vorys, Sater, Seymour & Pease LLP 52 E. Gay St., PO Box 1008 Columbus, OH 43215 电话:(614) 464-6400 传真:(614) 464-6350 电子邮件:jrmiller@vorys.com thfusonie@vorys.com mkuhl@vorys.com 上诉人律师 Chad A. Endsley (0080648)(记录律师) Leah F. Curtis (0086257) Leah M. Hetrick (0101374 俄亥俄州农场局联合会,公司 280 N. High Street Columbus,OH 43215 电话:(614) 246-8256 传真:(614) 246-8656 电子邮件:cendsley@ofbf.org lcurtis@ofbf.org lhetrick@ofbf.org 法庭之友律师 俄亥俄州农场局联合会,公司
开发有效的安全产品(FGHDHFGH,2022)。的情境意识定义为理解和解释环境条件和事件的认知过程,在决策中至关重要,特别是在确保准确,最佳选择以及避免事件和不幸事件和事故的背景下,这些事件和事件可归因于人类个人所犯下的误解,错误和错误。Endley将情境意识定义为感知和理解环境因素并很快预测其状态(Avdeenko and Makarova,2018年)。在网络安全环境中,情境意识对于网络安全很重要,需要人类分析师参与数据融合和决策过程(Alosaimi和Almutairi,2023年)。在这种情况下,“网络情境意识”一词是指该组织全面了解其网络安全格局的能力,包括其当前的安全姿势,潜在的漏洞和主动威胁。通过提高情境意识,组织可以更好地预测和减轻网络风险,从而保护其数字资产并保持业务连续性(Munir等,2021; Friedberg等,2015)。
人机系统整合委员会 FREDERICK OSWALD,莱斯大学心理学系,主席 JAMES BAGIAN,NAE/NAM,密歇根大学安娜堡分校医疗政策与创新研究所 DIANA BURLEY,乔治华盛顿大学教育与人类发展研究生院 BARBARA DOSHER,NAS,加州大学欧文分校社会科学学院 MICA ENDSLEY,SA Technologies,亚利桑那州梅萨 EDMOND ISRAELSKI,AbbVie,伊利诺伊州北芝加哥 NAJMEDIN MESHKATI,南加州大学维特比工程学院 JOHN LOCKETT,美国陆军研究实验室(已退休) EMILIE ROTH,Roth 认知工程,加利福尼亚州斯坦福 WILLIAM J. STRICKLAND,人力资源研究组织,弗吉尼亚州亚历山大 MATTHEW WEINGER,范德堡大学医学中心工作人员 MARY ELLEN O'CONNELL,临时主任TOBY M. WARDEN,董事(至 2021 年 5 月 25 日)
人机系统集成委员会 FREDERICK OSWALD,莱斯大学心理学系,主席 JAMES BAGIAN,NAE/NAM,密歇根大学安阿伯分校医疗政策与创新研究所 DIANA BURLEY,乔治华盛顿大学教育与人类发展研究生院 BARBARA DOSHER,NAS,加州大学欧文分校社会科学学院 MICA ENDSLEY,SA Technologies,亚利桑那州梅萨 EDMOND ISRAELSKI,AbbVie,伊利诺伊州北芝加哥 NAJMEDIN MESHKATI,南加州大学维特比工程学院 JOHN LOCKETT,美国陆军研究实验室(已退休) EMILIE ROTH,Roth 认知工程,加利福尼亚州斯坦福 WILLIAM J. STRICKLAND,人力资源研究组织,弗吉尼亚州亚历山大 MATTHEW WEINGER,范德堡大学医学中心工作人员 MARY ELLEN O’CONNELL,临时董事 TOBY M. WARDEN,董事(至 2021 年 5 月 25 日)
人机系统整合委员会 FREDERICK OSWALD,莱斯大学心理学系,主席 JAMES BAGIAN,NAE/NAM,密歇根大学安娜堡分校医疗政策与创新研究所 DIANA BURLEY,乔治华盛顿大学教育与人类发展研究生院 BARBARA DOSHER,NAS,加州大学欧文分校社会科学学院 MICA ENDSLEY,SA Technologies,亚利桑那州梅萨 EDMOND ISRAELSKI,AbbVie,伊利诺伊州北芝加哥 NAJMEDIN MESHKATI,南加州大学维特比工程学院 JOHN LOCKETT,美国陆军研究实验室(已退休) EMILIE ROTH,Roth 认知工程,加利福尼亚州斯坦福 WILLIAM J. STRICKLAND,人力资源研究组织,弗吉尼亚州亚历山大 MATTHEW WEINGER,范德堡大学医学中心工作人员 MARY ELLEN O'CONNELL,临时主任TOBY M. WARDEN,董事(至 2021 年 5 月 25 日)
[1] 创新设计竞争力战略研究 [J]. 中国工程科学 , 2017, 19(3): 100-110. Competitive Strategy for Innovative Design in China[J]. Strategic Study of CAE, 2017, 19(3): 100-110. [2] 路甬祥 . 论创新设计 [M]. 北京 : 中国科学技术出版 社 , 2017. LU Yong-xiang. On Innovative Design[M]. Beijing: China Science and Technology Press, 2017. [3] ENDSLEY M R. Toward a Theory of Situation Aware- ness in Dynamic Systems[J]. Human Factors, 1995, 37(1): 32-64. [4] 卫宗敏 . 面向复杂飞行任务的脑力负荷多维综合评估 模型 [J]. 北京航空航天大学学报 , 2020, 46(7): 1287- 1295. WEI Zong-min. A Multi-dimensional Comprehensive Evaluation Model of Mental Workload for Complex Flight Missions[J]. Journal of Beijing University of Aeronautics and Astronautics, 2020, 46(7): 1287-1295. [5] BAUMGARTNER N, MITSCH S, MÜLLER A, et al. A Tour of be Aware: a Situation Awareness Framework for Control Centers[J]. Information Fusion, 2014, 20(15):
过去十年,美国国防部 (DoD) 投入了大量精力考虑人工智能和自主性在国家安全中的作用(例如,国防科学委员会,2012 年、2016 年;国防部副部长,2012 年;Endsley,2015 年;第 13859 号行政命令,2019 年;美国国防部,2011 年、2019 年;Zacharias,2019a 年)。然而,这些努力的范围很广,仅部分涉及国防部将如何认证这些系统的安全性和性能。最近的研究为测试和评估 (T&E) 社区完成了这种宏观思考(例如,Ahner & Parson,2016;Haugh、Sparrow 和 Tate,2018;Porter 等人,2018;Sparrow、Tate、Biddle、Kaminski 和 Madhavan,2018;Zacharias,2019b)。与此同时,各个程序一直在为自己的特定用例和挑战生成自己的工作级解决方案。当前工作中提出的框架弥合了已经提出的宏观政策建议与各个程序需求之间的差距。它旨在作为 T&E 社区可以遵循的框架,以提供证据证明人工智能 (AI) 支持的自主系统按预期运行。有时我们会呼应其他人提出的广泛政策建议,因为它们也将支持 T&E 活动。在其他地方,我们会提出与测试计划和分析相关的更具体的建议。