通过分层相关性传播增强核电站 AI 模型的可解释性 Seung Geun Kim a*、Seunghyoung Ryu a、Hyeonmin Kim b、Kyungho Jin b、Jaehyun Cho ba 应用人工智能实验室/b 韩国原子能研究院风险评估与管理研究团队,韩国大田儒城区大德大路 989 号街 111,34057 * 通讯作者:sgkim92@kaeri.re.kr 1.简介 随着人工智能 (AI) 技术的快速发展,各个领域的应用数量巨大。核领域也紧跟这一趋势,许多研究利用 AI 模型解决事件诊断和自动/自主操作等问题。然而,占据近期 AI 技术应用最大份额的深度神经网络 (DNN) 具有不透明且可解释性低的局限性。对于基于 DNN 的模型,很难了解模型的内部逻辑或模型如何从给定的输入推断出输出。由于这一限制,尽管基于 DNN 的模型的性能可以接受,但人们对将其实际应用于安全关键领域和与道德/法律问题相关的领域仍犹豫不决。为了克服可解释性低的限制,已经提出了许多可解释的人工智能 (XAI) 方法。XAI 方法可以提供详细的解释,例如模型的内部逻辑和输入与输出之间的关系。然而,尽管可解释性问题对于安全关键的核领域至关重要,但缺乏处理 XAI 的研究。在本研究中,为了提高核领域人工智能模型的可解释性和实用性,研究了分层相关性传播 (LRP) [1],它是 XAI 方法之一,与其他 XAI 方法相比,它在许多应用中表现出更好的性能。论文的其余部分组织如下。在第 2 章中,对 XAI 和 LRP 进行了简要说明。第 3 章描述了可行性检查实验,第 4 章总结了本文。 2. 前言 2.1 可解释人工智能 可解释人工智能 (XAI) 是一种使人类轻松理解 AI 模型的技术。大多数 AI 模型在数据处理和解决问题的方法方面与人类不同。例如,AI 模型识别具有像素 RGB 值的图像,而人类则不能。提出 XAI 是为了减轻理解 AI 模型内部过程或推断某些输出的原因的难度。
2017 年 3 月,发布了新版风能发电系统国际标准 IEC 61400-12-01 [1]。第 12-1 部分涉及发电涡轮机的功率性能测量。在附件 G.2 单个顶部安装风速计和 G.4 现场安装仪器中,标准规定:“风速计应安装在一个圆形垂直管上,该管的外径与校准(和分类)时使用的外径相同(± 0.1 毫米),但不得大于风速计主体的直径。”对于不锈钢管的生产,DIN EN 10217 [2] 对焊接管外径规定了不同的公差等级。最精确的等级称为 D4,允许直径在 ± 0.5 % 以内,最小为 ± 0.1 毫米。因此,外径在 30 mm 和 40 mm 之间的管的允许公差在 ± 0.15 mm 和 ± 0.2 mm 之间。常用钢管的公差甚至更大,为 ± 1.0 %,最小为 ± 0.5 mm。这些值超过了新 IEC 标准中给出的规格。购买符合 IEC 标准规格的风速计安装管可能是一项艰巨的任务。在本研究中,评估了安装管直径变化对风速计测量结果的影响。这项研究是与 Adolf Thies GmbH & Co. KG 合作完成的。Thies 为这项研究提供了四种不同直径的安装管。管直径
’173 和 ’LS173A 4 位寄存器包括 D 型触发器,具有图腾柱 3 态输出,能够驱动高电容或相对低阻抗负载。高阻抗第三状态和增强的高逻辑电平驱动使这些触发器能够直接连接到总线组织系统中的总线并驱动总线,而无需接口或上拉元件。最多 128 个 SN74173 或 SN74LS173A 输出可以连接到公共总线,并且仍分别驱动两个系列 54/74 或 54LS/74LS TTL 标准化负载。类似地,最多 49 个 SN54173 或 SN54LS173A 输出可连接到公共总线并分别驱动一个额外的 54/74 系列或 54LS/74LS TTL 标准化负载。为了最大限度地降低两个输出试图将公共总线置于相反逻辑电平的可能性,输出控制电路的设计应使平均输出禁用时间短于平均输出启用时间。
前言 第四届模型输出敏感性分析国际会议 (SAMO 2004) 于 2004 年 3 月 8 日至 11 日在美国新墨西哥州圣达菲举行。这是 SAMO 会议首次在美国举行。会议在 Loretto 酒店举行,事实证明这是一个举行轻松会议的绝佳场所。第一届模型输出敏感性分析国际研讨会 (SAMO) 于 1995 年在意大利贝尔吉拉特举行,由欧盟委员会联合研究中心 (JRC) 赞助。该会议由 Andrea Saltelli 组织,他召集了一小群非正式研究人员,致力于推进理解物理系统数学模拟(模型)中不确定性的方法。同一小组于 1998 年在威尼斯卡福斯卡里大学组织了第二次会议。第三次 SAMO 会议于 2001 年在西班牙马德里举行。该会议由西班牙 CIEMAT 能源环境影响部 (DIAE) 的一个小组以及马德里理工大学 (UPM) 和胡安卡洛斯国王大学 (URJC) 两所大学共同组织。SAMO 系列的主题是研究模型输入变量、参数和与数值解方法相关的因素的变化导致的模型输出变化。这次会议特别强调了量化模型预测中总体不确定性的重要性。组委会由 Scott Doebling、Ken Hanson、François Hemez、Rudy Henninger、Michael McKay 和 Kathie Womack 组成,均来自洛斯阿拉莫斯国家实验室。讨论了以下技术: • 敏感性和不确定性重要性分析的创新方法 • 计算机实验的设计和抽样计划 • 模型校准 • 模型评估和验证 • 可靠性分析和稳健性分析 • 不确定性和敏感性的概率和非概率分析 • 知识和判断建模 • 不确定性下的决策 应用领域包括经济学、工程学、环境、核安全和物理学。Kathie Womack 对组织细节的认真关注极大地促进了会议的顺利进行。统计科学组的 Vivian Romero 开发并维护了 SAMO 2004 网站。
测量占空比的一种简单方法是使用微控制器。只需将传感器输出连接到微控制器的输入之一即可。借助一个小程序,可以感知输入是高还是低。由于控制器的指令时间,此采样速度受到限制。因此,要达到所需的精度,必须在多个传感器周期内进行采样。这种工作方式还具有过滤噪声的优势。从信号处理理论可以得出,传感器信号频率、采样率和采样噪声之间存在固定的比率。这种采样噪声限制了精度,相当于: