XiaoMi-AI文件搜索系统
World File Search System可信
Dempster-Shafer 可信 AI 方法及其在胎儿脑部 MRI 分割中的应用
摘要 — 对于病理病例和在不同中心获取的图像（而不是训练图像），用于医学图像分割的深度学习模型可能会意外且严重地失败，其标记错误违反了专家知识。此类错误破坏了用于医学图像分割的深度学习模型的可信度。检测和纠正此类故障的机制对于安全地将这项技术转化为临床应用至关重要，并且很可能成为未来人工智能 (AI) 法规的要求。在这项工作中，我们提出了一个值得信赖的 AI 理论框架和一个实用系统，该系统可以使用基于 Dempster-Shafer 理论的回退方法和故障安全机制来增强任何骨干 AI 系统。我们的方法依赖于可操作的可信 AI 定义。我们的方法会自动丢弃由骨干 AI 预测的违反专家知识的体素级标记，并依赖于这些体素的回退。我们在最大的已报告胎儿 MRI 注释数据集上证明了所提出的可信 AI 方法的有效性，该数据集由来自 13 个中心的 540 个手动注释的胎儿大脑 3D T2w MRI 组成。我们值得信赖的 AI 方法提高了四个骨干 AI 模型的稳健性，这些模型适用于在不同中心获取的胎儿脑部 MRI 以及患有各种脑部异常的胎儿。我们的代码可在此处公开获取。
应加快治理力度，确保人工智能安全、可靠、可信地开发和使用
• 行政命令 13960，促进联邦政府使用值得信赖的人工智能（2020 年 12 月 3 日）——指出人工智能的持续采用和接受将在很大程度上取决于公众信任，因此各机构必须以能够增进公众信任和信心的方式设计、开发、获取和使用人工智能，同时保护隐私、公民权利、公民自由和美国价值观。该行政命令为各机构在联邦政府设计、开发、获取和使用人工智能时制定了九项原则。此外，该行政命令承认一些机构已经在人工智能的使用方面处于领先地位。因此，其许多里程碑和可交付成果都侧重于识别和报告人工智能用例清单（以下称为人工智能项目），并指定一名负责官员来协调本行政命令中规定的实施。
可信云：VMware 混合云基础设施即服务 (IaaS) 环境的安全实践指南
组织需要能够根据业务需求以一致、可重复和自动化的方式监控、跟踪、应用和执行其云工作负载的安全和隐私政策。基于 NIST 内部报告 (IR) 7904《云中的可信地理位置：概念验证实施》中记录的先前 NIST 工作，国家网络安全卓越中心 (NCCoE) 开发了一种可信云解决方案，该解决方案展示了如何利用硬件信任根的可信计算池提供必要的安全功能。这些功能不仅可以确保云工作负载在可信硬件和可信地理位置或逻辑边界上运行，还可以改善对工作负载中的数据和工作负载之间数据流的保护。
基于离散和连续吸引子网络的神经形态系统基于忆阻器的生物可信记忆
正是对建立一整套新的数学工具以分析和评估未来神经形态计算系统的启发。忆阻器于1971年被提出[4]，并于2008年通过实验建立[5]，它是一种电阻性器件，是针对这种非冯·诺依曼计算优化的未来神经形态器件。忆阻器可以根据内部状态和外部刺激（如电压脉冲）改变其电阻。先前的研究表明，基于忆阻器的交叉结构可以依靠欧姆定律和基尔霍夫定律，将计算最密集的组件矢量矩阵乘法（VMM）直接映射到电参数，从而加速各种人工神经网络（ANN）。[6,7]在此原理下，VMM计算过程直接在原位进行，从而避免了因从内存中获取数据而导致的内存墙（冯·诺依曼瓶颈）。尤其是在监督学习中，它可以降低前馈过程和从 NP 到 P 的反向传播的计算复杂度。[8] 因此，当前的研究主要集中在分类和回归任务上，以利用这种新的计算机制作为互补金属氧化物半导体 (CMOS) 电路的补充。然而，忆阻器的不同物理机制，如导电丝的形成/溶解和相变，决定了器件存在需要进一步优化的缺陷。[9,10]
寻找具有类似人类认知和推理能力的可信、透明的智能系统
目前，我们看到人们对人工智能 (AI) 产生了浓厚的兴趣，尤其是对深度学习 (DL)/深度神经网络 (DNN) 的兴趣。原因之一似乎是此类系统所实现的无与伦比的性能。这导致人们对此类技术寄予厚望，这些技术通常被视为万能的解决方案。但大多数此类系统无法解释做出特定决定的原因（黑匣子），有时在其他系统无法解释的情况下会惨遭失败。因此，在医疗保健和国防等关键应用中，从业者不喜欢信任此类系统。尽管 AI 系统通常是从大脑中汲取灵感而设计的，但真正意义上利用大脑线索的尝试并不多。我们认为，要实现具有类似人类推理能力的智能系统，我们需要利用脑科学的知识。在这里，我们讨论了一些可能有助于设计智能系统的脑科学发现。我们解释了透明度、可解释性、从几个例子中学习以及 AI 系统的可信度的相关性。我们还讨论了一些可能有助于在学习系统中实现这些属性的方法。
英特尔® TDX 连接架构规范
3.3. 可信 IO 访问控制 ................................................................................................................................................ 26 3.3.1. 可信 MMIO 安全目标 ................................................................................................................................ 26 3.3.1. 安全 MMIO 管理 ...................................................................................................................................... 29 3.3.2. 可信 DMA 安全目标 ................................................................................................................................ 30 25
欧盟委员会设立人工智能办公室，加强欧盟在安全可信人工智能领域的领导地位
监管与合规部门负责协调监管方法，以促进《人工智能法案》在整个欧盟的统一应用和执行，并与成员国密切合作。该部门将参与调查可能的侵权行为，实施制裁；人工智能安全部门专注于识别非常强大的通用模型的系统性风险、可能的缓解措施以及评估和测试方法；人工智能和机器人卓越部门负责支持和资助研究和开发，以培育卓越的生态系统。它协调 GenAI4EU 计划，促进模型的开发并将其集成到创新应用中；人工智能造福社会部门负责设计和实施人工智能办公室在人工智能造福方面的国际参与，例如天气建模、癌症诊断和用于重建的数字孪生；人工智能创新和政策协调部门负责监督欧盟人工智能战略的执行，监测趋势和投资，通过欧洲数字创新中心网络和人工智能工厂的建立促进人工智能的采用，并通过支持监管沙箱和真实世界测试来培育创新生态系统。
单个可信量子比特对于极值无信号关联的量子实现是必要且充分的
如何实现独立于设备（或半独立于设备）的密码术（用于量子密钥分发和随机性生成）的安全性以对抗最普遍的无信号对手，这一问题仍然悬而未决。人们已经认识到，实现极值无信号非局部盒（或极值无信号非局部组合）可以为设计这种高度安全的协议提供途径。我们首先证明了一个普遍行不通的结果，即在贝尔非局域性场景中，量子理论不允许我们实现任何极值无信号非局部盒，即使考虑任意顺序测量的场景。另一方面，我们其次证明了一个积极的结果，表明单边设备独立场景（其中单方信任其量子比特系统）已经足以让量子理论在无信号组合集合内实现自测试极值非局部点。
课程列表_2024-25，第 1 学期_GSO.xlsx
AIST5020 可信人工智能 3 本课程介绍可信人工智能（Trustworthy AI）的原理和技术，旨在减轻人工智能对人类和社会的潜在不利影响。本课程重点介绍可信人工智能的四个主要方面：隐私和安全、稳健性、可解释性和公平性。它涵盖了这些领域的最新研究进展，包括联邦学习和对抗性攻击。将涵盖算法、模型和系统。此外，本课程还讨论了可信人工智能的伦理和社会影响，以培养未来使用或开发人工智能技术的学生的社会意识。本课程适合具有机器学习、概率和线性代数背景的学生。
