简介:正在开发或已投入使用的医疗 AI 应用数量不断增加。然而,在医疗保健中使用 AI 的安全影响在很大程度上尚不清楚。在本文中,我们探讨了不同的利益相关者(患者、医院工作人员、技术开发人员、监管机构)如何看待医疗 AI 的安全性和安全保障。方法:以重症监护室的 AI 输液泵为例,对患者、医院工作人员、技术开发人员和监管机构进行了 26 次访谈,以了解他们对医疗 AI 的安全性和安全保障的看法。使用主题分析法对数据进行分析。结果:参与者的看法涉及:医疗 AI 的潜在影响、人机交互的要求、AI 的安全保障实践和监管框架以及存在的差距,以及如何管理涉及 AI 的事件。结论:描述多样化的观点可以支持在医疗保健领域负责任地创新和采用此类技术。医疗保健人工智能的安全性和保障需要基于一种系统方法,以扩展当前以技术为中心的重点。可以从安全关键行业的高度自动化系统的经验中吸取教训,但诸如人工智能对患者和临床医生之间关系的影响等问题需要更多考虑。应遵循系统设计和保障的现有标准和最佳实践,但技术开发人员需要更多地了解这些标准和最佳实践。此外,还需要解决在医疗保健中使用人工智能的更广泛的伦理、法律和社会影响。
自动化系统及其组件的制造商在研发活动中投入了大量的时间和精力,这导致了展示新功能的原型的出现,以及这些系统在不同领域的市场推出。制造商需要确保系统以预期的方式和规格运行。这不是一项简单的任务,因为随着这些系统随着自动化功能和特性的增加而变得更加集成和互联,系统复杂性急剧上升。这项工作转化为 V&V(验证和确认)过程的开销,使其耗时且成本高昂。在本文中,我们介绍了 VALU3S,这是一个 ECSEL JU(联合承担)项目,旨在评估最先进的 V&V 方法和工具,并设计一个多领域框架,以围绕进行 V&V 过程所需的组件和元素创建一个清晰的结构。该框架的主要预期好处是减少验证和确认自动化系统所需的时间和成本,以满足安全、网络安全和隐私要求。这是通过根据上述要求识别和分类自动化系统 V&V 的评估方法、工具、环境和概念来实现的。VALU3S 将为 V&V 社区(包括工程师和研究人员)提供指导,说明如何进行自动化系统的 V&V
摘要。物联网技术发展推动的持续商业革命正在影响着各行各业。物联网对汽车行业的影响因自动驾驶 (AD) 等其他趋势而进一步增强。用户对自动驾驶的接受度取决于物联网与信息物理系统 (CPS) 的成功集成,而信息物理系统是监控和控制的关键组件。它们对数据的依赖与可靠性密切相关。本文介绍了针对自动驾驶的安全物联网解决方案的架构设计,同时考虑了奥地利国家资助项目 IoT4CPS 的设计原则。IoT4CPS 旨在创建指南、方法和工具,以将物联网安全集成到自动驾驶和相关智能生产中。它解决了 V2X 通信网络中的安全定位以及供应链中垂直利益相关者的紧密整合。数字孪生模型用于评估全生命周期的安全解决方案。我们还提出了确保物联网可靠性的设计方法。 IoT4CPS 提出的整体安全架构考虑了完整的生命周期和价值链。