摘要 量子退火是一种计算方法,其中优化和机器学习问题被映射到受量子涨落影响的物理实现的能量景观中,允许利用这些涨落来帮助找到世界上一些最具挑战性的计算问题的解决方案。最近,由于构建了基于通量量子比特的大规模量子退火设备,该领域引起了广泛关注。这些设备已经实现了一种称为反向退火的技术,允许在本地搜索解决方案空间,并且已经测试了基于这些技术的算法。在本文中,我开发了一种量子退火器算法设计的形式化,我称之为“推理原语”形式化。这种形式化自然适合于表达结构上类似于遗传算法的算法,但退火处理器执行组合交叉/变异步骤。我演示了如何使用这些方法来理解已经实现的算法,以及这些控制与当前为提高量子退火器性能而进行的各种其他努力的兼容性。
本报告并非旨在作为任何特定技术的教程,尽管重点介绍了一些技术并进行了简要讨论。感兴趣的读者应查阅适当的文献,以获取有关使用本文所述技术的更多详细信息。最近,形式化方法在安全关键软件开发中的应用非常活跃,我们将在本报告后面概述形式化方法的类别及其使用方法。我们不专注于特定方法,因为应选择一种方法来匹配正在构建的系统。相反,我们讨论开发人员可以选择一种类型的方法而不是另一种类型的方法的选项。
信任是人与人工智能互动的核心组成部分,因为“不正确”的信任程度可能会导致技术的误用、滥用或废弃。但人工智能中信任的本质究竟是什么?信任的认知机制的先决条件和目标是什么?我们如何促进它们,或评估它们在特定互动中是否得到满足?这项工作旨在回答这些问题。我们讨论了一种信任模型,该模型受到社会学家定义的人际信任(即人与人之间的信任)的启发,但并不完全相同。该模型基于两个关键属性:用户的脆弱性;以及预测人工智能模型决策影响的能力。我们纳入了“契约信任”的形式化,即用户与 AI 模型之间的信任是某种隐性或显性契约将持有的信任,以及“可信度”的形式化(与社会学中的可信度概念不同),以及“有根据的”和“无根据的”信任的概念。我们将有根据的信任的可能原因归结为内在推理和外在行为,并讨论如何设计值得信赖的 AI,如何评估信任是否已经体现,以及信任是否合理。最后,我们使用我们的形式化来阐明信任与 XAI 之间的联系。
信任是人与人工智能互动的核心组成部分,因为“不正确”的信任程度可能会导致技术的误用、滥用或废弃。但人工智能中信任的本质究竟是什么?信任的认知机制的先决条件和目标是什么,我们如何促进它们,或评估它们在特定互动中是否得到满足?这项工作旨在回答这些问题。我们讨论了一种信任模型,该模型受到社会学家定义的人际信任(即人与人之间的信任)的启发,但并不完全相同。该模型基于两个关键属性:用户的脆弱性;以及预测人工智能模型决策影响的能力。我们结合了“契约信任”的形式化,即用户与 AI 模型之间的信任是某种隐性或显性契约将持有的信任,以及“可信度”的形式化(与社会学中的可信度概念不同),以及“有根据的”和“无根据的”信任的概念。我们将有根据的信任的可能原因描述为内在推理和外在行为,并讨论如何设计值得信赖的 AI,如何评估信任是否已经体现,以及信任是否有必要。最后,我们使用我们的形式化阐明了信任与 XAI 之间的联系。
摘要 人工智能 (AI) 系统的广泛和快速分布和应用需要开发形式化方法并构建 AI 使用领域运作的基本原则。这种需求体现在制定建议和标准,以从使用 AI 中获得最大利益并最大限度地降低可能的风险。监管框架建立在以人为本的基础上。因此,制定的标准应成为旨在使用 AI 的进一步活动的基础,并适用于创建实际解决方案的所有阶段。因此,一个重要的阶段是以实际应用的实用模板方法的形式形式化法律和道德规范的要求、原则和规定。通过这种方法,在研究中开发了标准化 AI 可信度概念的模型和本体。这使得能够识别允许形成信任立场、是可信赖 AI 概念的有意义组成部分、确定其存在必要性并对其构成威胁的主要概念。在领域本体的基础上,开发了模型并进一步分解了结构实质性概念。未来将对信任形成概念的特征进行定义。关键词1 以人为本的人工智能,伦理人工智能,本体,模型,信任,标准化人工智能。
考虑到这些目标和限制,案例研究所选的设备是 NASA 兰利研究中心正在开发的一种新型容错架构的核心子系统。有几个因素促使我们为这次演习选择容错系统。容错协议的硬件实现通常是紧凑的设计;这允许在训练演习的时间限制内进行全面处理。此外,容错设备的行为本质上很复杂;这种设备显然属于 DO-254 的范围。此外,有大量研究文献涉及容错协议的形式化分析;容错系统是形式化方法演示的良好候选者。最后,任何预期从瞬态故障中恢复的设备也必然需要处理一组有限的永久故障。
摘要:在形式化空中交通复杂性方面已经进行了广泛的研究,但现有的研究主要侧重于限制空中交通管制员峰值工作量的指标,而不是一种可以指导战略、预战术和战术行动以实现飞机平稳流动的动态复杂性方法。本文使用图论形式化飞机相互依赖关系,并描述了四个复杂性指标,这些指标将时空拓扑信息与相互依赖的严重性相结合。这些指标可用于预测复杂性的动态演变,不是给出一个单一的分数,而是测量时间窗口中的复杂性。结果表明,这些指标可以捕捉扇区内复杂的时空区域,并提供扇区复杂性的详细和细致的视图。