在高风险环境中部署人工智能 (AI) 系统需要可信赖的 AI。欧盟最近的指导方针和法规强调了这一关键要求,经合组织和联合国教科文组织的建议也强调了这一点,还有其他一些例子。可信赖 AI 的一个关键前提是必须找到能够提供可靠合理性保证的解释。本文认为,最著名的可解释 AI (XAI) 方法无法提供合理的解释,或者找到可能表现出显著冗余的解释。解决这些缺点的方法是提供形式严谨性保证的解释方法。这些正式解释不仅合理,而且保证无冗余。本文总结了形式化 XAI 这一新兴学科的最新发展。本文还概述了形式化 XAI 面临的现有挑战。
用户越来越多地将其数据存储在云中,从而受益于轻松访问,共享和冗余。为了确保外包数据的安全性即使是针对服务器折衷的,一些服务提供商已开始提供端到端加密(E2EE)云存储。使用此加密保护,只有合法所有者才能读取或修改数据。然而,最近对最大的E2EE提供商的攻击强调了这种新兴服务类型的稳固基础。在本文中,我们通过启动对E2EE云存储的正式研究来解决这一缺点。我们给出了正式的语法来捕获云存储系统的核心功能,从而捕获了该系统的构成交互协议的现实复杂性。然后,我们针对完全恶意服务器定义了基于游戏的安全概念,以确定云存储系统的机密性和完整性。我们对选择性和完全自适应的客户妥协进行处理。最近对E2EE云存储提供商的攻击来告知我们的概念。特别是我们表明,我们的语法足以捕获大型的核心功能,并且最近对它的攻击出现在违反我们的安全概念的情况下。最后,我们提出了一个E2EE云存储系统,该系统提供了所有核心功能,并且相对于我们的选择性安全性概念既有效又可以证明是安全的。在此过程中,我们讨论了将云存储安全性的挑战与其他端到端原始图相同,例如安全消息传递和TLS。
开放硬件计划的出现促进了复杂计算系统(如信息物理系统 (CPS) 或物联网 (IoT))的设计 [2]。此类计划提出了类似软件的开发工作流程,从复杂的高级硬件描述语言 (HDL) [4] 到电路,同时使用复杂的编译链。这些方法有利于硬件设计的可用性,因此可以将其用作(详细的)黄金模型,取代仅提供某些设计细节的标准手册参考。这些 CPS 和物联网通常受安全和/或安保要求的约束。确保这些要求可以以不同程度的信心完成,从非正式论证到属性的正式验证。使用后一种方法时,系统软件和硬件部分的形式验证通常作为单独的活动进行,并且主要关注功能正确性。
流程图是现代计算的标志性可视化表示之一。1947 年,赫尔曼·戈德斯坦和约翰·冯·诺依曼发明了流程图,作为他们所谓的“问题规划和编码”综合方法的一部分。在接下来的至少 20 年里,流程图成为了计算机程序开发的随处可见的辅助工具。人们使用了各种各样的符号,但所有形式的流程图都包含表示操作和决策点的方框,并由表示控制流的有向线段连接起来 [18]。尽管流程图无处不在,但历史学家对其作用仍心存质疑。人们批评流程图不是开发过程的重要组成部分,反而认为它是繁琐且具有误导性的文档,只是在官僚主义项目经理的要求下制作。Ensmenger [5] 将其描述为边界对象,其价值在于它们能够在管理人员和开发人员之间进行调解,但对这两组人而言,它们的含义不同。鉴于此,我们惊讶地发现,对于戈德斯坦和冯·诺依曼来说,流程图不仅提供了程序结构的图形表示,而且还提供了复杂的数学符号。他们定义了许多形式条件,类似于我们现在所说的证明规则,用于证明图表的一致性。将原始图表描述为设计符号而不是定义软件开发形式化方法的早期尝试并非不合理,尽管有点不合时宜。
任何定义、证明或说明重要主旨的信息都是重要的。阅读时,请特别注意此类信息。如果您注意使用的语言,您可以更轻松地找到它。说明性事实通常由指示性短语“例如”引入;定义出现在清晰、简洁和权威的陈述中;描述通常以叙述形式叙述或关联信息;解释要么调和不同的观点,要么描述与某个想法相关的条件。
摘要:随着机载控制系统技术的快速进步,确保机载软件的可靠性、稳健性和适应性已变得势在必行,因为这些软件的故障可能导致灾难性的财产和生命损失。DO-333 是 DO-178C 标准的补充,致力于指导形式化方法在机载软件开发过程的审查和分析中的应用。然而,DO-333 缺乏关于如何在验证过程的每个阶段选择合适的形式化方法和工具来实现验证目标的理论指导,从而限制了它们的实际应用。本文旨在说明验证过程中可用的形式化方法和工具,为机载软件的形式化开发和验证提供通用指南。我们以大气数据计算机 (ADC) 软件为研究对象,应用不同的形式化方法来验证软件生命周期工件。该实例说明了形式化方法在实际应用中的应用,证明了形式化方法在机载软件验证中的有效性。
VR(Virtual Reality)是一种创造和体验虚拟世界的计算机仿真系统,可以模拟环境、多源信息融合、交互式三维动态场景和实体行为模拟。这里的“教育”特指教育技术,是指现代科学技术在教育中的应用。形式化方法是逻辑科学中比较和找出不同思维形式相互联系的方式,可以准确地揭示各种逻辑规则,制定相应的逻辑规则,使各种理论体系更加严谨,训练正确的思维,提高思维的抽象能力。VR技术在高等教育教学中的应用是现代信息化教学发展的必然结果。第一个维度是最初的学习方式仅仅依赖于阅读和记忆知识点,后来多媒体教学进入课堂,将幻灯片和视频带入学习,这是第二个维度,现在VR可以看作是第三个维度,即体验式学习,比以前的视频教学更加丰富,更具沉浸感。 VR在多媒体教学的基础上能够使学习者的学习效果得到进一步提升,这在理论上是显而易见的,基于此,“VR+教育”的新模式随着科技和教育理念的发展而应运而生,究竟应该采用什么样的策略、如何评估效果,是当前教育研究的重要方向,以推动“VR+教育”的发展。
课程计划必须在授课前 48 小时提交给您。请在授课前进行必要的修改并返回给实习生。使用评分标准为实习生提供有关课程计划的具体反馈。