XiaoMi-AI文件搜索系统
World File Search SystemBlackBox
可解释人工智能（XAI）综述
摘要 — 最近，人工智能和机器学习在从图像处理到自然语言处理等许多任务中都表现出色，尤其是深度学习的出现。随着研究的进展，它们已经侵入许多不同的领域和学科。其中一些领域需要高度的责任感和透明度，例如医疗部门。因此需要对机器决策和预测进行解释以证明其可靠性。这需要更高的可解释性，这通常意味着我们需要了解算法背后的机制。不幸的是，深度学习的黑箱性质仍未解决，许多机器决策仍然知之甚少。我们回顾了不同研究工作提出的可解释性并对其进行了分类。不同的类别展示了可解释性研究的不同维度，从提供“明显”可解释信息的方法到复杂模式的研究。通过将相同的分类应用于医学研究中的可解释性，希望（1）临床医生和从业者随后可以谨慎对待这些方法；（2）对可解释性的洞察将更多地考虑医疗实践；（3）鼓励推动基于数据、数学和技术的医学教育。
ORS 2025年会第334号会议论文
nesa.milan@ucsf.edu简介：肩袖撕裂会导致肩部疼痛和功能障碍，从而显着影响受影响患者的生活质量。肌肉萎缩和脂肪变性对肩袖（RC）修复后的临床结果产生负面影响。血流限制（BFR）是一种治疗方法，涉及血液流动的暂时限制，用于刺激下肢创伤和ACL重建后刺激肌肉再生和疼痛缓解[1]。但是，BFR的基本机制仍然未知，并且尚未应用于RC损伤。纤维生成祖细胞（FAP）是常驻的骨骼肌干细胞，已证明具有向肌原细胞捐赠线粒体的能力，以减少肌肉退化和RC泪液后的肩部功能改善[2]。这项研究的目的是研究BFR促进肌肉再生，改善肩部功能并缓解RC撕裂后的疼痛的能力和机制。我们假设BFR诱导了从FAP到肌细胞的水平线粒体转移，从而增强了肌肉再生，改善运动学功能并减轻RC损伤后的疼痛。方法：由于其解剖位置，直接将BFR应用于RC肌肉在技术上具有挑战性。取而代之的是，我们将BFR应用于肩膀附近的同侧臂，提出了一种更可行和转化的方法。这是通过将正畸橡皮筋涂在RC损伤的臂上，持续10分钟，然后切除10分钟，进行3个周期。小鼠。进行了功率分析，以确定所需的最小样本量。我们首先对健康的男性Prrx1-Cre/mitotag Fap-Monochondria Reporter小鼠（n = 4/组）测试了BFR。supraspinatus（SS）肌肉在手臂的同侧带有BFR，以进行组织学分析。在PRRX1-CRE/MITOTAG小鼠（n = 8/组）上，对BFR对受伤的RC肌肉的影响，单侧SS和肌腱横向和神经（TT+DN）进行了诱导RC撕裂。小鼠随机分配每三天或无作为对照治疗接受同侧ARM BFR。记录了手术前后小鼠的步态，并使用基于AI的步态分析系统（称为BlackBoxò）进行分析。疼痛。小鼠，并分析了SS肌肉的Mitotag信号传导和肌纤维大小。使用ImageJ分析所有图像。在基线时使用Blackbox和DeepLabcut评估运动学功能，并在OP后6周评估了前步长的长度和体重比率。 所有程序均由我们的IACUC批准。 结果：同侧ARM BFR在诱导SS肌肉中从FAP到肌细胞的线粒体转移具有显着影响（图1A-G）。 这种效果持续了BFR后长达3天，大约10.7％的肌纤维仍含有FAP转移的线粒体（图1E，G）。 与非BFR对照相比，在TT+DN损伤后2和6周，BFR在SS中的FAP线粒体转移显着增加（图2A-E，G）。运动学功能，并在OP后6周评估了前步长的长度和体重比率。所有程序均由我们的IACUC批准。结果：同侧ARM BFR在诱导SS肌肉中从FAP到肌细胞的线粒体转移具有显着影响（图1A-G）。这种效果持续了BFR后长达3天，大约10.7％的肌纤维仍含有FAP转移的线粒体（图1E，G）。与非BFR对照相比，在TT+DN损伤后2和6周，BFR在SS中的FAP线粒体转移显着增加（图2A-E，G）。此外，BFR处理后的平均肌纤维大小显着增加（横截面肌纤维面积，1d：2250±909.3μm2vs基线：1250±635μm2；图1A-F，H），在3天返回到基线。与对照相比，在TT+DN后2周，BFR治疗的肌肉的肌纤维大小明显更大（2315±442.5μm2vs 897.7±308.2μm2，图2A-D，F），表明其抗嗜性作用。在TT+DN损伤后6周，BFR和对照之间的肌纤维大小没有差异（图2A-D，H）。在运动参数方面，与非BFR对照组（p <0.05）相比，BFR显着改善了小鼠（平均= 2.16厘米）的小鼠（平均= 2.16厘米）的右手前步长（平均= 2.16厘米）（P <0.05）（图3A）。与非BFR对照组相比，BFR治疗组（平均值= 0.99）（平均= 0.55）（p <.01），BFR治疗组的前爪体重比（同侧/对侧）显着提高（平均值= 0.99）。该数据表明，TT+DN后，BFR显着缓解了小鼠的肩部疼痛（图3B）。
ImageNet 十年之后：人工智能的 360° 视角
神经网络回归已有 10 年。在这一周年纪念日的推动下，我们对人工智能 (AI) 采取了整体视角。认知任务的监督学习得到了有效解决——前提是我们拥有足够高质量的标记数据。然而，深度神经网络模型不易解释，因此黑盒和白盒建模之间的争论成为了焦点。注意力网络、自我监督学习、生成建模和图神经网络的兴起拓宽了人工智能的应用空间。深度学习也推动了强化学习作为自主决策系统核心构建块的回归。新人工智能技术可能带来的危害引发了透明度、公平性和问责制等社会技术问题。控制人才、计算资源以及最重要的数据的大型科技公司在人工智能领域的主导地位可能会导致人工智能的极端分化。尽管人工智能驱动的对话代理最近取得了戏剧性和出人意料的成功，但备受瞩目的旗舰项目（如自动驾驶汽车）的进展仍然难以捉摸。必须小心调节该领域的言论，并使工程进步与科学原理保持一致。
ImageNet 十年之后：360°视角看待人工智能 ImageNet 十年之后：360°视角看待人工智能
神经网络回归已有 10 年。在这一周年纪念日的推动下，我们对人工智能 (AI) 采取了整体视角。认知任务的监督学习得到了有效解决——前提是我们拥有足够高质量的标记数据。然而，深度神经网络模型不易解释，因此黑盒和白盒建模之间的争论成为了焦点。注意力网络、自我监督学习、生成建模和图神经网络的兴起拓宽了人工智能的应用空间。深度学习也推动了强化学习作为自主决策系统核心构建块的回归。新人工智能技术可能带来的危害引发了透明度、公平性和问责制等社会技术问题。控制人才、计算资源以及最重要的数据的大型科技公司在人工智能领域的主导地位可能会导致极端的人工智能鸿沟。尽管最近人工智能驱动的对话代理取得了戏剧性和出人意料的成功，但自动驾驶汽车等备受瞩目的旗舰项目的进展仍然难以捉摸。必须注意缓和围绕该领域的言论，并使工程进展与科学原理保持一致。
可解释人工智能（XAI）综述
摘要 — 最近，人工智能和机器学习在从图像处理到自然语言处理等许多任务中都表现出色，尤其是深度学习 (DL) 的出现。随着研究的进展，它们已经侵入许多不同的领域和学科。其中一些领域需要高度的责任感和透明度，例如医疗部门。因此需要对机器决策和预测进行解释以证明其可靠性。这需要更高的可解释性，这通常意味着我们需要了解算法背后的机制。不幸的是，DL 的黑箱性质仍未解决，许多机器决策仍然不太理解。我们回顾了不同研究工作提出的可解释性并对其进行了分类。不同的类别展示了可解释性研究的不同维度，从提供“明显”可解释信息的方法到复杂模式的研究。通过将相同的分类应用于医学研究中的可解释性，希望：1) 临床医生和从业者随后可以谨慎对待这些方法； 2）随着对医疗实践的更多考虑，对可解释性的洞察将随之产生；3）鼓励推动基于数据、数学和技术的医学教育。
可解释人工智能 (XAI) 调查 - DR-NTU
摘要 — 最近，人工智能和机器学习在从图像处理到自然语言处理等许多任务中都表现出色，尤其是深度学习 (DL) 的出现。随着研究的进展，它们已经侵入许多不同的领域和学科。其中一些领域需要高度的责任感和透明度，例如医疗部门。因此需要对机器决策和预测进行解释以证明其可靠性。这需要更高的可解释性，这通常意味着我们需要了解算法背后的机制。不幸的是，DL 的黑箱性质仍未解决，许多机器决策仍然不太理解。我们回顾了不同研究工作提出的可解释性并对其进行了分类。不同的类别展示了可解释性研究的不同维度，从提供“明显”可解释信息的方法到复杂模式的研究。通过将相同的分类应用于医学研究中的可解释性，希望：1) 临床医生和从业者随后可以谨慎对待这些方法； 2）随着对医疗实践的更多考虑，对可解释性的洞察将随之产生；3）鼓励推动基于数据、数学和技术的医学教育。
量子电路和控制的量子几何学学习
摘要机器学习技术在量子控制中解决问题以及解决优化问题的已建立几何方法自然而然地探索了如何使用机器学习方法来增强量子信息处理中问题的几何方法。在这项工作中，我们审查并扩展了深度学习的应用到量子几何控制问题。特别是，在量子电路合成问题的背景下，我们通过应用新颖的深度学习算法来展示时间 - 最佳控制的增强能力，以便近似于与低维度多数Qubit系统相关的地理学（因此最小电路）近似地理学（以及最小的电路），例如SU（2），SU（2），SU（4）和SU（4）和SU（4）和（8）。我们演示了Greybox模型的出色性能，该模型将传统的黑框算法与白框模型（编码量子力学的先前领域知识）结合在一起，作为学习兴趣的基础量子电路分布的手段。我们的结果证明了几何控制技术如何使用（a）验证几何合成的量子电路沿着测量线沿着几何合成的程度，从而时间优化，途径，途径和（b）合成这些电路。我们的结果对量子控制和量子信息理论的研究人员感兴趣，该理论寻求将机器学习和几何技术结合起来，以解决时间优势控制问题。
![arxiv：2501.13697v1 [eess.sy] 2025年1月23日](/simg/g:\will\search\icon\source\c\cff763d370a1be105b5d57ac6adda3bd49437b5e.webp)
arxiv：2501.13697v1 [eess.sy] 2025年1月23日
摘要。控制工程中的重复和重要任务是在约束下进行调整，从概念上讲，仅通过噪声评估才能访问黑框函数。例如，在预设司法机构的控制练习参数中，通常会用工厂的反馈在线调整，并且只能尝试使用安全的Pa-Rameter值，例如不稳定。最近，已经针对这种重要的概率部署了机器学习方法，尤其是贝叶斯优化（BO）。为处理安全性，安全BO的算法，尤其是SafeOpt-type算法，这些算法在基于学习的控制，机器人技术和相邻领域方面享有很大知名度。但是，我们确定了实践安全的两个重要障碍。首先，SafeOPT型算法依赖于标志性的不确定性界限，大多数实现将这些算法替换为理论上不支持的启发式方法。第二，理论上有效的非确定性界限至关重要地取决于数量 - 目标函数的繁殖内核希尔伯特空间规范 - 目前无法使用已建立的先验工程知识可靠地绑定它。通过仔细的数值实验，我们表明这些问题确实会导致安全违规。为了克服这些问题，我们提出了Lipschitz仅安全的贝叶斯优化（LOSBO），这是一种仅依赖于已知Lipschitz为其安全而绑定的安全的BO算法。此外，我们提出了一个避免搜索空间网格的变体（LOS-GP-UCB），因此即使适用于适度的高维问题。
rl-jack：强化学习驱动的黑盒越狱攻击LLMS
现代大型语言模型（LLM）开发人员通常会设置安全一致性，以防止LLM产生不受欢迎或有害内容。这个对齐过程涉及使用人体标记的数据集对模型进行微调，其中包括拒绝回答不道德或有害问题的样本。但是，最近的研究发现，LLM的安全对准可以通过越狱提示绕开。这些提示旨在创建特定的对话方案，并有一个有害的问题。用这样的提示查询LLM可能会误导该模型来回答有害问题。大多数现有的越狱攻击要求模型内部或大量的人类干预才能产生越狱的提示。更先进的技术利用遗传学方法来实现自动化和黑框。然而，遗传方法的随机性和随机性质在很大程度上限制了最先进的（SOTA）越狱攻击的有效性和效率。在本文中，我们提出了RL-Jack，这是一种新颖的Blackbox越狱攻击，该攻击由深度增强学习（DRL）提供支持。我们将越狱提示的产生作为搜索问题，并设计了一种新颖的RL方法来解决它。我们的方法包括一系列定制设计，以在越狱背景下提高RL代理的学习效率。值得注意的是，我们设计了一个llm辅助的动作空间，该空间可以在约束整体搜索空间的同时进行di-verse动作变化。一旦受过培训，我们的经纪人就可以自动针对不同的LLM产生多样化的越狱提示。此外，我们提出了一种新颖的奖励功能，为代理商获得成功越狱的卑鄙的奖励。通过严格的分析，我们发现RL作为确定性搜索策略，比随机搜索方法（例如遗传算法）更有效，并且具有较小的随机性。通过广泛的评估，我们证明了RL-Jack总体上比对六个SOTA LLM的现有越狱攻击更有效，包括大型开源模型（例如Llama2-70B）和商业模型（GPT-3.5）。我们还显示了RL-Jack对三种SOTA防御的弹性及其在不同模型中的可转移性，包括非常大的Llama2-70B。我们通过详细的消融研究进一步证明了RL-Jack的RL代理的必要性以及我们的行动和奖励设计的有效性。最后，我们验证了RL杰克对关键超参数的变化的不敏感性。