AI联盟:挑战,风险和未来的方向,世界面临着前所未有的灾难性风险,这是由于致命的大流行病和流行病以及指数技术的交汇处引起的。AI和机器人技术作为第四次工业革命的两种代表性技术,继续迅速发展,以多种方式越来越多地在整个领域中被剥削。虽然AI和机器人可以为各种能力差距和挑战提供解决方案,但世界数字化并不是要完全取代人类的参与。鉴于这些技术的局限性,趋势提出了有关与安全关键社会技术系统自主权增加相关的收益,并发症,负债和风险的重要问题。AI和自主权的使用涉及复杂的法律,道德,道德,社会和文化问题,这些问题可能阻碍其人类伴侣作为一个合作的人类与人类共生联盟的发展,评估和应用。但是,目前在这方面没有政府政策,没有协调的方法,没有有组织的社区反应,也没有国际研究计划寻求答案,以应对理解和减轻与操作这些启用AI-ai-abable自主系统相关的风险的挑战。此外,缺乏支持这些安全至关重要的社会技术系统的设计的指导,同时要牢记潜在的收益以及局限性和潜在的伤害。本讲座将为理解和减轻与采用AI支持的社会技术系统相关的潜在风险提供指导。。必须进行适当且经过验证的流程,以确保这些系统可以安全,负责任地使用,然后再将它们更广泛地集成到我们的系统,活动,运营和社会中。本讲座旨在满足系统设计人员,开发人员,项目经理,研究人员以及所有有兴趣使用21世纪人类AI共生技术的从业人员的需求。演讲将讨论AI面临的技术挑战,与人与AI合作伙伴之间的相互作用相关的风险,以及通过引入智能自适应系统(IAS)框架(IAS)框架和相关方法来解决这些挑战和风险的潜在解决方案。IAS是人机共生技术,通过基于其共同能力,优势和局限性来实现共同目标,通过优化人机相互作用来表现集体智能。将审查自1950年以来的70年以来,系统设计策略和方法的进化性质将被审查。将详细讨论以技术为中心设计(TCD),以人为中心的设计(HCD)和以互动为中心的设计(ICD)范式的哲学和原理。分析方法对于IAS,设计方法,实施策略和评估方法的功能需求的分析方法,将在考虑技术,人类能力和限制以及系统应实现的技术,人类能力和局限性以及功能的上下文限制时,将详细说明设计和开发AI支持自主系统的现实示例。
关键系统、其操作频段和要求需要进行表征并与其他系统集成。人机系统与硬件和软件元素的最佳集成对任务执行的多个方面都有影响,包括人类健康和绩效、风险缓解、有效设计和功能、增强安全性以及降低生命周期成本。人机系统集成 (HSI) 领域代表了一种跨学科、全面的跨领域方法,涵盖了将人作为系统考虑因素和目标集成到所有其他系统组件和多个领域中的技术和管理流程。除了人类活动之外,HSI 还涵盖培训、运营和支持维度。此外,HSI 是系统工程实践的重要推动因素,强调人机系统方面,以优化完全集成的系统性能,同时在开发的最初阶段系统地融入所有用户的需求。与国家太空探索运动一致,NASA 正在开发 Gateway,这是一个月球轨道平台,将作为宇航员栖息地,支持前往深空的交通,验证新技术和系统,并充当科学实验室和通信中心等用途。它是通过可进化的基础设施和先进技术将人类探索延伸到深空的阶段的基本要素,支持其他探索架构元素的组装和物流。为了探索 HSI 在任务(系统的系统)生命周期中实施的现状和未来计划,HSI 员工资源组以 Gateway 计划为案例研究,举办了一次 HSI 研讨会。它揭示了约翰逊航天中心的不同组织如何在其流程中纳入 HSI,为 Gateway 的开发和运营做准备。研讨会重点关注 HSI 方法,用于实施 NASA 的六个 HSI 领域:人为因素工程、运营资源、宜居性和环境、可维护性和可支持性、安全性和培训。本文报告了研讨会的结果,以及 NASA 的一些 HSI 历史背景,以及使用员工资源组促进技术知识的成功。作者希望这些信息可用于传播最佳实践,以便将其转化为其他太空探索系统。关键词:人机系统集成、NASA、系统工程、NASA HSI 领域、员工资源组、系统的系统、人作为系统 首字母缩略词/缩写 ARGOS:主动响应重力卸载系统 CAST:机组人员自主调度测试 CDR:关键设计评审 ConOps:作战概念 CREAM:认知可靠性和错误分析方法 DDT&E:设计、开发、测试和评估 DoD:国防部 EED:电子发动机显示器 EMU:额外机动单元 ERG:员工资源组 FOD:飞行运营理事会 HCD:以人为本的设计 HITL:人在回路中