XiaoMi-AI文件搜索系统
World File Search System折衷方案
社论：医疗保健中的机器学习和人工智能安全性、有效性和可解释性
机器学习和人工智能 (ML/AI) 模型性能的不断提高，使得它们在日常生活中越来越常见，包括临床医学 (Bruckert 等人; Rosenfeld 等人，2021 年)。虽然对 ML/AI 工具不透明的“黑匣子”性质的担忧并不是什么新鲜事，但随着 ML/AI 设备从实验室转移到尚未完全赶上最先进水平的监管流程 (Benrimoh 等人，2018a) 并进入临床，对可解释性问题的实际解决方案的需求变得更加迫切。本特别版针对医疗保健领域实施 ML/AI 方法需要创新和更清晰的最佳实践的三个关键领域：确保安全、证明有效性和提供可解释性。值得注意的是，前两个标准长期以来一直是药品和医疗器械评估的主要内容（即，为了获得批准用于人类，产品必须证明其安全有效——通常与合理的比较物进行比较）（Sp ł awi´nski 和 Ku´zniar，2004 年）。第三个要求——可解释性——似乎是 ML/AI 所独有的，因为它面临着解释模型如何得出越来越准确的结论的挑战。然而，经过仔细研究，人们可能会认为可解释性标准在过去就已经隐含了：药物和设备的作用机制通常在其产品文档中描述（加拿大卫生部，2014 年）。然而，这可能会产生误导。例如，许多药物具有已知的受体结合谱和假定的作用机制，尽管它们在临床实践中广泛使用，但它们产生作用的确切机制仍不清楚。这方面的主要例子是锂（Shaldubina 等人，2001）和电休克疗法（Scott，2011），这两种治疗方法都存在已久且非常有效，但其作用机制仍存在争议。事实上，即使是全身麻醉的确切机制也是争论的主题（Pleuvry，2008）。因此，我们必须考虑一个折衷方案——即足够的可解释性（Clarke 和 Kapelner）。这涉及回答以下问题：我们必须对模型了解多少才能确定它在临床实践中是安全的？本期特刊中的文章开始探讨这一问题的可能答案，以及 ML/AI 在医疗保健环境中的应用中的其他关键问题。
量子比特承诺的一般性质
在经典密码学中，比特承诺是一种重要的密码原语。比特承诺方案定义了发送者和接收者之间的两阶段交互协议，提供两种安全保障：隐藏和绑定。通俗地说，隐藏属性表示在提交阶段以及之后，提交的位对接收者是隐藏的，直到打开它为止；而绑定属性表示发送者在稍后的显示阶段只能将承诺打开为最多一个位值（仅限 0 或 1）。不幸的是，无条件（或信息理论上）安全的比特承诺是不可能的。作为一种折衷方案，我们转而考虑基于复杂度的比特承诺，又称计算比特承诺。单向函数假设是一个基本的计算难度假设，没有任何数学结构；它是基于复杂度的密码学中的最小假设 [IL89]。我们可以从一个单向函数构造两种类型的比特承诺：计算隐藏（统计约束）比特承诺[Nao91]和（统计隐藏）计算约束比特承诺[NOVY98，HNO+09]。然而，这些构造的一个主要缺点是它们是交互式的：在提交阶段需要交换至少两个甚至多项式数量的消息，这似乎是固有的[MP12，HHRS07]。随着量子技术的发展，现有的密码系统在不久的将来可能面临量子攻击。关于比特承诺，因此我们必须研究抵御量子攻击的比特承诺，又称量子比特承诺。一般的量子比特承诺方案本身可以是经典和量子计算和通信的混合。当构造纯经典时，我们通常称之为“抵御量子攻击的（经典）比特承诺方案”或“后量子比特承诺方案”1。量子比特承诺的概念早在三十年前就被提出，旨在利用量子力学实现比特承诺[BB84、BC90]。遗憾的是，无条件安全的量子比特承诺也是不可能的[May97、LC98]。基于量子安全单向置换或函数等复杂性假设，我们还可以构造两种量子比特承诺[AC02、YWLQ15、DMS00、KO09、KO11、CLS01]。关于这些构造的一个有趣观察是，几乎所有构造（[CLS01] 中的构造除外）都是非交互式的（在提交和显示阶段都是如此）。这比经典的比特承诺有很大优势。这促使我们提出以下问题：