被认为可能会迅速发生(Aziz 和 Dowling,2019 年;Shaheen,2021 年)。算法可以诊断我们的疾病、预测我们的康复情况、预测最佳治疗方法、确定我们是否能获得贷款、为我们投资以及确定商品和服务的成本。我们能信任那些驾驶我们的汽车并为我们做出医疗和财务决策的算法吗?具体而言,信任仍然是医疗保健、金融和其他领域大规模采用 AI 的关键要素。这种信任需要能够识别算法如何设计特征来创建预测、诊断或预报,以及算法能够推广到新设置的能力,与用于创建算法的训练、测试和验证数据集无关。在经典统计模型中,简约性、研究设计和建模选择是获得模型的可解释性、可推广性和信任的基础。现代人工智能工程师对研究设计拥有同样的控制权,但经常尝试自动化许多建模选择。然而,在具有数百万个参数(权重)的模型中,实现简约性往往是不现实的。因此,可解释人工智能的目标可以理解为在复杂模型中创建简约性变体的能力,目的是通过检测实际影响评估现象的因素来产生对算法的信任。应强调后一点,即可解释人工智能,理想情况下,它识别对结果影响最大的特征或特征组合,以便:激发未来研究,构建次级简约模型,并通过将特征重要性与已知或假设的机制相匹配来建立对算法的信任。由于缺乏信任,人工智能系统在医疗保健和金融领域的实际部署受到了阻碍。可解释性被视为提高复杂人工智能系统信任度和责任感的关键步骤。在医疗保健领域,患者、护理人员和监管机构需要能够解释和信任人工智能系统,才能将其投入使用。同样,如果没有可解释性,金融系统也不太可能满足该领域的严格规定。在每个领域,都需要可解释性来在复杂模型中创建简约性。可能需要新的专门算法和可视化技术来为这些复杂系统提供窗口。还需要新的指标,提供结果的公平比较、权衡和在生产使用之前测量解释的保真度。需要更加专注、面向应用的工作,因为可解释的人工智能为人工智能的信任和问责制提供了基础。虽然本期特刊的核心主题是可解释性,但其核心是信任算法输出。这个多方面的主题至少包括:严格的验证以及评估可解释性和可推广性的方法。本期特刊中的每篇稿件都涉及一个或多个核心问题。
我是勃林格殷格翰公司的量子计算科学家,研究制药行业的量子计算应用。我的主要专长是量子计算。我对研究的贡献包括构思和演示量子模拟的新协议,在集成量子光子设备上实施,以及利用机器学习和量子计算机实现量子系统表征和量子传感的新方法。
“生成”模型[图2]的设计目的是在一系列反馈迭代中,积极属性如疗效和可用药性会得到“奖励”,消极属性——尤其是毒性——会受到“惩罚”,从而优化结果(潜在的候选药物)。化学结构候选物可以从各种来源获得,包括化学库、药物化学见解、天然产物、从头计算机设计(计算机模拟)或其他。[8] [11] [14] 在正常过程中,简单地说,候选化合物(真实的或虚拟的)经过:1)对治疗目标的疗效进行筛选和评分(评级);2)对与ADME(吸收、分布、代谢和消除)和潜在药物间相互作用(DDI)相关的理想药物特性进行筛选和评分;3)对潜在的不良毒理学作用进行筛选和评分。预测疗效和毒性分离度较低(治疗指数低,TI)的候选结构不太可能成为候选药物,但通过迭代人工智能算法,可以逐步实现更好、更安全的可能性(即更高的疗效和更低的毒性)。
我要向国际刑警组织的格雷格·海因兹先生和我们的合作伙伴以及欧盟委员会外交政策文书服务处的娜塔莉·保维尔斯女士表示诚挚的感谢,感谢他们对这一联合倡议的支持。CT TECH 是一个创新的能力建设项目,它将协助会员国加强执法和刑事司法能力,以应对恐怖主义利用新技术的行为,同时维护法治和人权。在当今变革性技术时代,以及 COVID-19 缓解措施加速了人们在线生活的流动时,这个项目尤其重要。事实上,联合国秘书长的 2020 年数字合作路线图警告称,网络犯罪日益增多,恐怖分子和暴力极端分子利用互联网,关键基础设施遭到袭击,以及国家和非国家行为者开展网络行动的能力不断增强,包括针对选举和政治系统的虚假信息。联合国大会关于联合国成立 75 周年的宣言指出,数字技术,包括其恶意使用,带来了前所未有的机遇和新挑战。
DIMES - 卡拉布里亚大学,伦德,意大利 卡拉布里亚大学计算机工程、建模、电子和系统系 (DIMES) 的 B 类固定期限研究员(RTDB - 全职制度),属于科学学科领域 ING-INF/01 - 电子学。 DIMES - 卡拉布里亚大学,伦德,意大利 卡拉布里亚大学计算机工程、建模、电子和系统系 (DIMES) 的 A 类固定期限研究员(RTDA - 全职制度),属于科学学科领域 ING-INF/01 - 电子学。 DIMES - 意大利伦德卡拉布里亚大学,卡拉布里亚大学计算机工程、建模、电子和系统系 (DIMES) 研究员 (L. 240/2010),属于科学学科领域 ING-INF/01 – 电子学。研究课题:“CMOS/MTJ存储器和逻辑应用的器件/电路协同设计”。科学主任:Marco Lanuzza 教授(卡拉布里亚大学)。 DIMES - 意大利伦德卡拉布里亚大学,卡拉布里亚大学计算机工程、建模、电子和系统系 (DIMES) 研究员 (L. 240/2010),属于科学学科领域 ING-INF/01 – 电子学。研究课题:“基于n型基板和高效IBC和PERT架构的下一代晶体硅太阳能电池技术建模”。科学主任:Marco Lanuzza 教授(卡拉布里亚大学)。 ARCES - 博洛尼亚大学,切塞纳校区,意大利 博洛尼亚大学(切塞纳校区)埃尔科莱德卡斯特罗信息与电信工程电子系统研究中心 (ARCES) 研究员(L.240/2010),学科领域为 ING-INF/01 – 电子学。研究课题:“光伏电池的数值模拟”。科学主任:Claudio Fiegna 教授(博洛尼亚大学)。 ARCES - 博洛尼亚大学,切塞纳校区,意大利 博洛尼亚大学(切塞纳校区)埃尔科莱德卡斯特罗信息与电信工程电子系统研究中心 (ARCES) 研究员 (L.449/97),研究领域为 ING-INF/01 – 电子学。研究课题:“光伏电池及模块的数值模拟”。科学主任:Claudio Fiegna 教授(博洛尼亚大学)。意大利伦德卡拉布里亚大学“编程和人工智能心理学”博士课程博士生 - XXV 周期科学学科领域 ING-INF/01 - 电子学。科学主任:Marco Lanuzza 教授(卡拉布里亚大学)。