XiaoMi-AI文件搜索系统
World File Search System黑盒
可解释的机器学习助力可信赖的人工智能
用于自动决策的黑盒人工智能系统通常基于对（大）数据的机器学习，将用户的特征映射到一个类别或分数中，而不揭示原因。这不仅是由于缺乏透明度而成问题，而且还因为算法可能继承了人类的偏见和隐藏在训练数据中的收集伪影，从而导致不公平或错误的决策。人工智能的未来在于让人与机器合作解决复杂问题。与任何有效的合作一样，这需要良好的沟通、信任、清晰度和理解。可解释的人工智能解决了这些挑战，多年来，不同的人工智能社区一直在研究这样的主题，从而产生了不同的定义、评估协议、动机和结果。本讲座对迄今为止可解释人工智能（XAI）的工作进行了合理的介绍，并调查了相关文献，重点是机器学习和符号人工智能相关方法。我们激发现实世界和大规模应用中对 XAI 的需求，同时展示最先进的技术和最佳实践，并讨论许多未解决的挑战。
rw-voiceshield：基于原始波形的对抗性攻击一声音conversion
近年来，单发语音转换（VC）取得了重大进步，使能够用一个句子改变说话者特征。但是，随着该技术的成熟并产生了越来越现实的说法，它很容易受到隐私问题的影响。在本文中，我们提出了RW-Voiceshield，以保护声音免于复制。这是通过通过使用基于原始波形的生成模型产生的不可察觉的噪声来有效攻击单发VC模型来实现的。使用最新的单发VC模型进行测试，我们进行了测试，在黑盒和白色盒子方案下进行主观和客观评估。我们的结果表明，VC模型产生的话语与受保护的说话者的话语之间的说话者特征存在显着差异。此外，即使在受保护的话语中引入了对抗性噪声，说话者的独特特征仍然可以识别。索引术语：语音转换，对抗性攻击，扬声器verification，扬声器表示
![arxiv：2502.06869v1 [cs.lg] 2025年2月8日](/simg/9\941a44ebdca8e1e2fe7696dbc01558b91923efad.webp)
arxiv：2502.06869v1 [cs.lg] 2025年2月8日
深度加强学习（DRL）在跨不同领域的序列决策任务中取得了显着的成功，但其对黑盒神经体系结构的依赖阻碍了可相互可预性，信任和在高风险应用程序中的部署。可解释的深度强化学习（XRL）通过通过特征级别，州级，数据集级别和模型级解释技术来实现透明度来解决这些挑战。本调查提供了对XRL方法的全面审查，评估了其质量和定量评估框架，并探讨了它们在政策改造，副本的鲁棒性和安全性中的作用。此外，我们研究了通过从人类反馈（RLHF）学习的强化学习的大语模型（LLM）的增强学习的整合，从而优化了AI与人类偏好的一致性。我们通过高照明开放研究挑战和未来的指导来结束，以促进可解释，可靠和负责任的DRL系统的发展。
聚合物化学
研究时间的缓解。此外，通常还使用“一次一个变量”（OVAT）方法进行优化 - 这可能导致识别false Optima。7使用实验的统计设计（DOE）方法对OVAT的更简单，更合适的替代方案之一是对反应空间的结构化研究 - 从而使用一组多元体验筛选了条件。8例如，Abetz和Comers已经说明了用于筏聚合的有效优化工作流程，9他们从DOE屏幕上展示了准确的预测和靶向聚合物性能。使用更具动态的，基于机器学习的方法是通过进一步减少用户输入的机会进行优化的机会；实际上，所谓的黑盒算法不需要任何先验知识，例如Nelder - Nelder - Mead Simplex 11,12和分支和拟合（SnobFit）13,14算法的稳定嘈杂的优化，可以实现单个客观优化 - 即找到目标15或纯度等物镜的最理想的结果。16
XAI 的符号 AI：评估 LFIT 归纳编程以实现公平且可解释的自动招聘
机器学习方法在生物识别和个人信息处理（例如法医、电子医疗、招聘和电子学习）领域的重要性日益增加。在这些领域，基于机器学习方法构建的系统的白盒（人类可读）解释可能变得至关重要。归纳逻辑编程 (ILP) 是符号 AI 的一个子领域，旨在自动学习有关数据处理的声明性理论。从解释转换中学习 (LFIT) 是一种 ILP 技术，可以学习与给定黑盒系统等同的命题逻辑理论（在特定条件下）。本研究通过检查 LFIT 在特定 AI 应用场景中的可行性，迈出了将准确的声明性解释纳入经典机器学习的通用方法的第一步：基于使用机器学习方法生成的自动工具进行公平招聘，用于对包含软生物特征信息（性别和种族）的简历进行排名。我们展示了 LFIT 对这个特定问题的表达能力，并提出了一个可应用于其他领域的方案。
![arXiv:2007.10018v1 [cs.AI] 2020 年 7 月 20 日](/simg/3\3ea5103465cc9bd377356254235ee19fc60e3965.png)
arXiv:2007.10018v1 [cs.AI] 2020 年 7 月 20 日
摘要。最近的工作已经证明了将局部解释与主动学习相结合以理解和监督黑盒模型的前景。在这里我们表明，在特定条件下，这些算法可能会歪曲正在学习的模型的质量。原因是机器通过预测和解释查询实例的标签来说明其信念：如果机器没有意识到自己的错误，它最终可能会选择它表现良好的查询。这会使机器向用户呈现的“叙述”产生偏差。我们通过引入解释性引导学习来解决这种叙述偏见，这是一种新颖的交互式学习策略，其中：i）主管负责选择查询实例，而 ii）机器使用全局解释来说明其整体行为并引导主管选择具有挑战性、信息丰富的实例。该策略保留了解释性交互的关键优势，同时避免了叙述偏见，并且在样本复杂性方面与主动学习相比具有优势。使用基于聚类的原型进行的初步实证评估凸显了我们方法的前景。
系统评价 XAIR：与软件开发过程相一致的可解释人工智能 (XAI) 的系统元评价
摘要：目前，可解释性是人工智能 (AI) 在各个应用领域的实际实施方面面临的主要障碍。为了解决对基于 AI 的系统缺乏理解的问题，可解释人工智能 (XAI) 旨在使黑盒 AI 模型对人类更加透明和易于理解。幸运的是，已经引入了大量 XAI 方法从不同角度解决可解释性问题。然而，由于搜索空间巨大，对于 ML 从业者和数据科学家来说，从开发 XAI 软件开始并选择最合适的 XAI 方法是一项挑战。为了应对这一挑战，我们引入了 XAIR，这是对最有前途的 XAI 方法和工具的新颖的系统元评论。XAIR 通过将其结果与软件开发过程的五个步骤（包括需求分析、设计、实施、评估和部署）保持一致，从而与现有评论区分开来。通过这种映射，我们旨在更好地理解开发 XAI 软件的各个步骤，并促进创建包含可解释性的现实世界 AI 应用程序。最后，我们强调了未来研究的新方向。
可编程控制器 - CAREL
最大闪存容量 6M 6M 6M 2M 2M 1M 实时时钟 总线扩展 编程密钥 内置显示屏 LED 指示灯 I/O 扩展 多语言 黑盒 Carel 兼容 Metasys ® 兼容 Modbus ® 兼容 LonWorks ® 兼容 Bacnet ™ 兼容 TCP-IP 兼容 pLAN 调制解调器就绪 GSM 调制解调器就绪 SMS 最大模拟输入数 5 8 10 6 8 8 PT1000 输入 2 2 4 0÷10Vdc 输入 3 6 6 0÷1Vdc 输入 3 6 6 4 4 4 4÷20mA 或 0÷20mA 输入 3 6 6 4 4 4 NTC 输入 5 8 10 6 8 8 0÷5 Vdc 比率输入 4 4 通过软件设置 AIN 通过拨码开关设置 AIN 最大数字输入数 8 14 18 8 14 12 24Vac/Vdc 输入 8 14 18 8 14 12 230Vac/Vdc 输入 2 4 2 2 自由触点输入 2 2 4 2 2 最大模拟输出数量 4 4 6 4 4 2 0÷10Vdc 输出 4 4 6 2 2 2 PWM 输出 2 2 最大数字输出数量 8 13 18 8 13 13 SPST 继电器输出 7 10 13 7 10 10 SPDT 继电器输出 1 3 5 1 3 3 SSR 输出 1 2 3 2 4
物理理论的自我测试，或者量子理论对于某些信息处理任务来说是否最佳？
自测试通常是指采取一组给定的观察到的相关性，这些相关性被认为是通过量子理论准确描述的过程产生的，并试图推断量子态和测量值。换句话说，它关心的是我们是否可以通过仅查看量子黑盒设备的输入输出行为来判断它们在做什么，并且已知在几种情况下是可能的。在这里，我们提出一个更普遍的问题：是否有可能对一个理论，特别是量子理论进行自测试？更准确地说，我们问在特定的因果结构中是否存在只能在任何情况下具有与量子力学相同相关性的理论中执行的任务。我们提出了这种相关性自测试的候选任务，并在一系列广义概率理论 (GPT) 中对其进行了分析，结果表明这些理论都没有比量子理论表现更好。我们的研究结果概括起来就是，对于这项任务来说，所有非量子 GPT 都严格劣于量子力学，这将为公理化量子理论提供一种新方法，并能够通过实验测试同时排除此类 GPT。
Kolmogorov-Arnold网络和进化游戏理论，用于更个性化的癌症治疗
个性化的癌症治疗正在通过利用精确医学和先进的计算技术来革新肿瘤学来量身定制疗法。尽管具有变革性的潜力，但诸如预测模型的有限的发电性，可解释性和可重复性等挑战阻碍了其整合到临床实践中。当前的方法论通常依赖于黑盒机器学习模型，虽然准确，但缺乏临床医生信任和现实世界应用所需的透明度。本文提出了一个创新框架的开发，该框架桥接了Kolmogorov-Arnold Networks（KANS）和进化游戏理论（EGT）来解决这些局限性。受Kolmogorov-Arnold代表定理的启发，Kans提供了可靠的，基于边缘的神经体系结构，能够用前所未有的适应性对复杂的生物系统进行建模。它们整合到EGT框架中 - 可以使癌症进展和治疗反应的动态建模。通过将KAN的计算精度与EGT的机械见解相结合，这种混合方法有望提高预测精度，可扩展性和临床可用性。