通过分层相关性传播增强核电站 AI 模型的可解释性 Seung Geun Kim a*、Seunghyoung Ryu a、Hyeonmin Kim b、Kyungho Jin b、Jaehyun Cho ba 应用人工智能实验室/b 韩国原子能研究院风险评估与管理研究团队,韩国大田儒城区大德大路 989 号街 111,34057 * 通讯作者:sgkim92@kaeri.re.kr 1.简介 随着人工智能 (AI) 技术的快速发展,各个领域的应用数量巨大。核领域也紧跟这一趋势,许多研究利用 AI 模型解决事件诊断和自动/自主操作等问题。然而,占据近期 AI 技术应用最大份额的深度神经网络 (DNN) 具有不透明且可解释性低的局限性。对于基于 DNN 的模型,很难了解模型的内部逻辑或模型如何从给定的输入推断出输出。由于这一限制,尽管基于 DNN 的模型的性能可以接受,但人们对将其实际应用于安全关键领域和与道德/法律问题相关的领域仍犹豫不决。为了克服可解释性低的限制,已经提出了许多可解释的人工智能 (XAI) 方法。XAI 方法可以提供详细的解释,例如模型的内部逻辑和输入与输出之间的关系。然而,尽管可解释性问题对于安全关键的核领域至关重要,但缺乏处理 XAI 的研究。在本研究中,为了提高核领域人工智能模型的可解释性和实用性,研究了分层相关性传播 (LRP) [1],它是 XAI 方法之一,与其他 XAI 方法相比,它在许多应用中表现出更好的性能。论文的其余部分组织如下。在第 2 章中,对 XAI 和 LRP 进行了简要说明。第 3 章描述了可行性检查实验,第 4 章总结了本文。 2. 前言 2.1 可解释人工智能 可解释人工智能 (XAI) 是一种使人类轻松理解 AI 模型的技术。大多数 AI 模型在数据处理和解决问题的方法方面与人类不同。例如,AI 模型识别具有像素 RGB 值的图像,而人类则不能。提出 XAI 是为了减轻理解 AI 模型内部过程或推断某些输出的原因的难度。
CIPL 对欧盟委员会关于《人工智能法案》草案的咨询的回应 CIPL 1 欢迎就欧盟委员会关于《欧洲人工智能法案》2(“AI 法案”或“法案”)的提案进行咨询,以将其纳入欧盟立法程序。CIPL 很高兴看到《人工智能法案》采纳了 CIPL 关于采用基于风险的方法监管欧盟人工智能的文件中提出的几项建议。3 这些建议旨在培养对人工智能的信任,而不会妨碍其负责任的发展。特别是,CIPL 欢迎该法案基于风险的方法,该方法将适用于高风险的人工智能用例,而不会监管人工智能技术本身或整个行业。CIPL 还欢迎拟议使用统一标准和行业自我评估产品符合性,因为这些机制已被证明能够成功推动创新并在欧盟市场开发安全可信的技术。CIPL 还欢迎旨在支持创新的措施,特别是通过为监管沙盒提供法定基础。最后,CIPL 很高兴看到《人工智能法案》中概述的一些要求与一些现有的行业惯例相一致,这些惯例为确保负责任地开发和使用人工智能设定了高标准。4 然而,CIPL 遗憾的是,《人工智能法案》没有充分考虑到一些必要条件,例如提供基于结果的规则;明确允许组织根据人工智能系统的风险和收益来调整对要求的遵守情况;奖励和鼓励负责任的人工智能实践;利用监管沙盒的经验教训;并澄清《人工智能法案》的监督和执行条款也应基于风险。CIPL 重申,要使《人工智能法案》有效地保护基本权利,同时也为欧盟创新的新时代奠定基础,它需要足够灵活以适应未来的技术。此外,该法案不能过于严格,以免抑制包括公共卫生或环境在内的一系列行业和部门对人工智能的宝贵和有益的创新和使用。最后,《人工智能法案》将受益于有针对性的调整,以更好地明确人工智能提供者、部署者和用户的责任平衡,特别是对于通用人工智能和开源人工智能模型。
2021年3月2日对死亡进行调查,并于2月24日在EPS拘留期间,艾伯塔省严重的事件响应小组(ASITT)被指示调查一名43岁男子死亡的情况,该男子在与埃德蒙顿警察局(EPS)和医院和平人员接触期间死亡,此外还有医疗人员。2月23日,警方在呼吁骚扰后回应了一处住所。官员处理了这名43岁的男子,此事未经指控就解决了,没有事件。2月24日下午12:22左右,EPS警察和危机小组(PACT)的成员参加了该男子的位置,以进行后续工作并进行幸福检查。PACT是一个综合部门,包括由EPS雇用的警察和由Alberta Health Services(AHS)雇用的精神卫生工作者。根据他们收到的信息和对男人行为的观察,警方根据《心理健康法》的规定逮捕了该人,将他转交给医院进行进一步评估和治疗。逮捕毫无意义。下午1:27左右,官员将这名男子运送到皇家亚历山德拉医院(RAH),该男子被安置在急诊室的安全房间,以进行进一步评估和治疗。在拉赫(Rah)时,医院工作人员要求警察帮助他们将男子移至另一个单位的另一个安全房间。在下午2:22左右,当他们进入安全的房间将男子转移到另一个单位时,该男子,三名EPS官员和工作人员之间发生了身体上的争执,包括三名安全和平官员。在事件发生期间,一名警官部署了执行的能量武器(CEW)。一旦他们对男子的足够控制,医务人员就接受了药物治疗。此后不久,该男子变得无反应,尽管立即提供了紧急医疗,但该男子无法复活并被宣布死亡。可能会要求调查警察行为可能造成或造成严重伤害或死亡的任何事件。此外,当一个人在警察拘留期间遭受严重伤害或死亡时,即使事件发生在医院中,它也被认为是严重的,并且可能需要进行独立的调查来确定警察是否造成严重伤害或死亡,如果是这样,则相关人员是否在其律师权中行事,并在其律师事务中处于律师事务中。一个广泛定义的事件被广泛定义为一个人被捕,被捕,现场包含或拘留在监护环境中,或者警察有能力和/或权力控制一个人的运动。命令调查时,这反映了一个人在警察拘留期间死亡的情况的重力,不应将其解释为表明在调查开始时有一种信念,警方的行为不当。调查旨在提供对
抽象的增强和替代性交流(AAC)技术可以为患有严重身体障碍的人提供通信的访问。Brain – Com COM界面(BCI)访问技术可以与现有的AAC访问方法一起使用,以提供通信设备控制。但是,关于单个观点如何随着基于运动的BCI-AAC学习而改变的信息有限。有四个患有ALS的人完成了12个BCI-AAC培训课程,在该课程中,他们在自动的行柱扫描PAT TERN期间通过基于电动机的BCI-AAC进行了字母选择。在每次BCI-AAC培训课程之前和之后,采取了重复的措施,以评估与BCI-AAC Perfor Mance相关的变化,并包括疲劳,挫败感,心理努力,体力劳动,设备满意度和整体设备控制的措施。效率前的水平较低,用于使用BCI-AAC系统。但是,参与者表示不同的
联合新闻稿 新加坡,2021 年 6 月 8 日 NTU、NP 和 NHCS 科学家发明的新型人工智能工具可以加快心血管疾病的诊断 新加坡南洋理工大学 (NTU Singapore)、新加坡义安理工学院 (NP) 和新加坡国家心脏中心 (NHCS) 的一组研究人员发明了一种可以加快心血管疾病诊断的工具。在人工智能 (AI) 的推动下,他们的创新利用心电图 (ECG) 来诊断冠状动脉疾病、心肌梗死和充血性心力衰竭,准确率超过 98.5%。联合开发诊断工具非常及时,因为新加坡过去三年来因心血管疾病导致的死亡人数有所增加。据新加坡心脏基金会称,2019 年新加坡所有死亡人数中有 29.3%(几乎占新加坡死亡人数的三分之一)是心脏病或中风造成的。科学家们希望他们的创新能够支持临床环境中心血管疾病的诊断,特别是在医生进行初步心电图检查时,最终加快治疗进程。研究人员使用一种名为 Gabor-卷积神经网络 (Gabor-CNN) 的人工智能机器学习算法设计了诊断工具,该算法模仿人脑的结构和功能,使计算机能够像人类一样从过去的经验中学习。他们使用该算法,通过输入反映心血管疾病的心电图信号示例来训练他们的工具识别患者心电图中的模式。这项研究的共同作者、NHCS 心脏病学系高级顾问临床副教授 Tan Ru San 表示:“我们对一小组初步研究对象进行的研究表明,在使用常规心电图对一些常见心血管疾病进行分类的准确性方面取得了令人鼓舞的结果。虽然确认特定疾病仍需要额外的测试,但我们的诊断工具将
7这仅适用于那些不受需求关税的LT消费者。对基于LT需求的消费者提供的治疗与HT消费者相同。8对于MSME以外的消费者,应为盈余能源提供补偿,占通过GUVNL在6个月期间对非公园基于非公园的太阳能项目进行的竞争性招标过程中发现和签约的简单关税的75%;在整个协议期间剩下的剩余固定。在MSME制造业企业的情况下,盈余能源应在项目委托后的头五年以每单位2.25卢比的价格进行补偿,此后,它的补偿程序应与上述非MSME相同。9 https://www.prayaspune.org/peg/resources/power-perpective-portal/253-renewables-moving-beyond-cemyond-compessions-and-waivers.html
用于人工智能和神经形态计算的硅光子学 Bhavin J. Shastri 1,2、Thomas Ferreira de Lima 2、Chaoran Huang 2、Bicky A. Marquez 1、Sudip Shekhar 3、Lukas Chrostowski 3 和 Paul R. Prucnal 2 1 加拿大安大略省金斯顿皇后大学物理、工程物理和天文学系,邮编 K7L 3N6 2 普林斯顿大学电气工程系,邮编 新泽西州普林斯顿 08544,美国 3 加拿大不列颠哥伦比亚大学电气与计算机工程系,邮编 BC 温哥华,邮编 V6T 1Z4 shastri@ieee.org 摘要:由神经网络驱动的人工智能和神经形态计算已经实现了许多应用。电子平台上神经网络的软件实现在速度和能效方面受到限制。神经形态光子学旨在构建处理器,其中光学硬件模拟大脑中的神经网络。 © 2021 作者 神经形态计算领域旨在弥合冯·诺依曼计算机与人脑之间的能源效率差距。神经形态计算的兴起可以归因于当前计算能力与当前计算需求之间的差距不断扩大 [1]、[2]。因此,这催生了对新型大脑启发算法和应用程序的研究,这些算法和应用程序特别适合神经形态处理器。这些算法试图实时解决人工智能 (AI) 任务,同时消耗更少的能量。我们假设 [3],我们可以利用光子学的高并行性和速度,将相同的神经形态算法带到需要多通道多千兆赫模拟信号的应用,而数字处理很难实时处理这些信号。通过将光子设备的高带宽和并行性与类似大脑中的方法所实现的适应性和复杂性相结合,光子神经网络有可能比最先进的电子处理器快至少一万倍,同时每次计算消耗的能量更少 [4]。一个例子是非线性反馈控制;这是一项非常具有挑战性的任务,涉及实时计算约束二次优化问题的解。神经形态光子学可以实现新的应用,因为没有通用硬件能够处理微秒级的环境变化 [5]。
智能制造中人工智能与网络安全挑战赋能 Dr.P.KALARANI 计算机技术与信息技术系助理教授 印度泰米尔纳德邦埃罗德 Kongu 艺术与科学学院 邮箱:meet.kalaram@gmail.com 文章历史:收到日期:2020 年 11 月 11 日;接受日期:2020 年 12 月 27 日;在线发表日期:2021 年 4 月 5 日 摘要:SM(智能制造)是一种广泛的制造类别,采用基于计算机的集成制造系统,具有更高的新适应性和设计结构的快速变化,以及数字化和有效的劳动力培训。有必要在 SM 系统中纳入新技术,以适应现有系统的变化。智能工厂通过让客户满意来提高单位产量、质量和一致性维护。更智能的技术有助于在组织中借助计算机技术获取信息,通过计算机技术定期记录信息/数据。对环境非常安全的智能制造系统被我们称为绿色制造 (GM)。绿色技术或绿色制造是一个总称,它以某种方式属于同一分支,用于多种技术或科学领域,以生产对环境友好的产品。GM 是最需要的,它可能导致经济方面更高水平的发展。此外,在网络安全方面,还需要解决信息的机密性以及 SM 系统带来的漏洞。因此,我们提出了一种借助人工智能 (AI) 和网络安全框架在 SM 系统中实现高效绿色制造的方法。所提出的工作采用双阶段 ANN 来寻找工业中 SM 系统的设计配置。然后,为了在通信时保持数据的机密性,使用 3DES 方法对数据进行加密。关键词:智能制造、人工智能、网络安全、机密性、加密。1.介绍
通过一系列利益相关者的访谈和案例研究,该报告探讨了与此同时的现有用途,其挑战和机遇以及如何更好地支持该实践,以及其宝贵的资产和结果认可和验证。清楚地表明,认识到提供参与性,创新和弹性的解决方案的更广泛的社会价值和潜力存在重大差距。该报告还概述了同时用途与其赋予弹性议程的能力之间的关键关系。它说明了同时的使用能力和灵活性,可以通过充分利用土地来支持,促进和实施GLA的许多良好增长原则,从而提供社会成果,例如邻居和社区支持,支持环境目标,例如改善健康,福祉,并促进启动和扩展业务的增长,并促进启动和扩大业务的增长。
俄罗斯的人工智能战略:国有企业的作用 2020 年 11 月 作者:Stephanie Petrella、Chris Miller 和 Benjamin Cooper 摘要:2017 年,俄罗斯总统弗拉基米尔·普京宣布,无论哪个国家成为人工智能 (AI) 的领导者,“都将成为世界的统治者”。然而,俄罗斯在人工智能能力方面远远落后于中国和美国等竞争对手。俄罗斯促进人工智能技术发展的战略是什么?俄罗斯精英群体在制定这一战略方面扮演什么角色?俄罗斯的人工智能发展战略的独特之处在于,它不是由政府或私营部门主导,而是由国有企业主导。政府对俄罗斯最大的科技公司 Yandex 的不信任,使该公司被排除在国家人工智能规划之外。与此同时,俄罗斯国防集团 Rostec 公开表示,它更关注其他高科技优先事项,而不是人工智能。因此,俄罗斯的人工智能开发被交给了国有银行 Sberbank,该银行牵头制定了政府支持的人工智能投资计划。俄罗斯联邦总统弗拉基米尔·普京在 2017 年宣称,无论哪个国家成为人工智能 (AI) 的领导者,“都将成为世界的统治者”。1 对于普京来说,人工智能带来的广泛能力为增强国家在国际舞台上的实力提供了可能性。人工智能可用于提高军事能力、推进科学和医学发展以及提高工业效率。普京宣称,俄罗斯军方正试图利用人工智能,用“现代武器系统,包括基于数字技术和人工智能的武器系统”取代旧式武器系统。2 尽管官员们大肆宣扬人工智能的好处,但俄罗斯在人工智能能力方面的许多指标都远远落后于其他国家。从 1996 年到 2017 年,俄罗斯的人工智能能力远远落后于其他国家。