XiaoMi-AI文件搜索系统
World File Search System防御措施
垂直联合学习中的标签泄漏：调查
垂直联合学习（VFL）是一个分布式机器学习范式，它使用具有功能的被动方和带有其他标签的主动聚会进行协作训练模型。虽然VFL通过数据局部iZation提供隐私保护，但标签泄漏的威胁仍然是一个重要的挑战。标签泄漏是由于标签推理攻击而发生的，在这种情况下，被动方试图推断标签的隐私和商业价值。已经对这种特殊的VFL攻击进行了广泛的研究，但仍缺乏全面的摘要。为了弥合这一差距，我们的论文旨在调查现有的标签推理攻击和侵害。我们分别针对标签推理攻击和防御措施提出了两个新的分类法。除了总结当前的研究状态外，我们强调了我们认为具有强大的技术，并且可能会影响未来的研究。此外，总结了实验基准数据集和评估指标，以提供后续工作的指南。
水印，可转移的攻击和对抗防御
一个非拟合组织计划开放分类器F，但希望通过将水印直接嵌入模型中来检测其使用。爱丽丝的任务是创建此水印。鲍勃的目的是使F在对手方面稳健，即确保很难找到看起来不奇怪但会导致F犯错误的查询。两个面临挑战：爱丽丝努力创建无法消除的水印，而鲍勃的防御措施变得越来越复杂。他们发现自己的项目已连接。爱丽丝的想法是在F中种植一个后门[1，2]，使她能够用隐藏的扳机来制作查询，该扳机激活后门，导致F错误分类，从而检测到F的使用。鲍勃的方法涉及平滑F以增强鲁棒性，这无意中消除了此类后门[2]。他们意识到自己的挑战是同一枚硬币的两个方面：一项任务的不可能可以保证另一个任务的成功。
HBM2 DRAM 芯片中 RowHammer 的实验分析
RowHammer (RH) 是现代 DRAM 芯片的一个重大且日益恶化的安全性、可靠性问题，可利用该问题来破坏内存隔离。因此，了解真实 DRAM 芯片的 RH 特性非常重要。遗憾的是，之前没有研究广泛研究现代 3D 堆叠高带宽内存 (HBM) 芯片的 RH 漏洞，而这种芯片通常用于现代 GPU。在这项工作中，我们通过实验表征了真实 HBM2 DRAM 芯片的 RH 漏洞。我们表明：1) HBM2 内存的不同 3D 堆叠通道表现出明显不同级别的 RH 漏洞（误码率相差高达 79%），2) DRAM 组末尾的 DRAM 行（具有最高地址的行）表现出的 RH 位翻转明显少于其他行，3) 现代 HBM2 DRAM 芯片实现了未公开的 RH 防御措施，这些措施由定期刷新操作触发。我们描述了我们的观察结果对未来 RH 攻击和防御的影响，并讨论了理解 3D 堆叠存储器中的 RH 的未来工作。
“最好是计算机，否则我就是笨蛋”：对人类作为音频 Deepfake 检测器的大规模评估
音频深度伪造对我们日常交流中的信任构成了日益严重的威胁。为此，研究界开发了各种各样的检测技术，旨在防止此类攻击欺骗用户。不幸的是，这些防御措施的创建通常忽略了系统中最重要的元素——用户自己。因此，尚不清楚当前的机制是增强、阻碍还是仅仅与人类对深度伪造的分类相矛盾。在本文中，我们进行了首次大规模的深度伪造检测用户研究。我们招募了 1,200 多名用户，并向他们展示了来自三个被引用最多的深度伪造数据集的样本。然后，我们定量比较性能并定性进行主题分析，以激发和理解用户决策背后的原因以及与机器分类的差异。我们的结果表明，用户正确分类人类音频的比率明显高于机器学习模型，并且在进行分类时依赖语言特征和直觉。然而，用户也经常被对生成音频能力的先入之见所误导（例如，口音和背景声音代表人类）。最后，机器学习模型的缺陷在于
互联网基础设施论坛（IIF）的基础工作 - Topdns
m arkusdeBrün描述了各种类型的滥用类型，这些滥用行为正常挑战互联网基础设施运营商：•网络钓鱼：网络钓鱼攻击，犯罪分子欺骗用户揭示机密信息，仍然是广泛的威胁。网站网站的扩散需要进行预防和快速检测。区分网络钓鱼和欺诈通常是具有挑战性的。网络钓鱼地点的体积有所减少，但质量却大大提高。•恶意软件：恶意软件越来越多地用于利用或损坏基础架构。通过不同渠道传递的多样性也增加了，将操作员的响应时间和防御措施投入了测试。•僵尸网络：打击僵尸网络 - 用于恶意活动的感染设备的网络 - 是一个复杂的挑战，因为它们通常很难大规模识别和操作。•垃圾邮件：尽管有多年的对策，但垃圾邮件仍然是滥用的重要来源。不需要的消息的质量分布会给系统带来压力，并且需要专门的过滤和检测技术。
NEI 20-07，高安全性 - 重要安全相关数字 I&C 系统中软件常见原因故障处理指南 - 草案 C
分支技术立场 (BTP) 7-19，修订版 8，提供了三种不同的方法，被许可人可以使用这些方法来消除 CCF 危害，避免进一步考虑。这三种方法是 (1) 在 DI&C 系统内使用多样性，(2) 使用测试，或 (3) 使用防御措施。NEI 20-07 与 BTP 7-19，修订版 8（第 3.1.3 节）中提出的第三种方法 ─ 使用防御措施最为一致。NEI 20- 07 以安全设计目标 (SDO) 的形式提供了客观标准，用于防御因软件设计缺陷导致的软件 CCF。SDO 用于选择平台硬件和软件以及开发应用软件。数字系统要经历软件 CCF，软件中必须存在潜在缺陷。软件缺陷只能通过软件开发过程引入。将软件开发要求应用于安全相关系统，使 NRC 能够将与核电站事故分析事件同时发生的 CCF 视为超出设计基准的事件。但是，NRC 仍然要求行业通过使用“最佳估计”假设的纵深防御 CCF 应对分析来分析 CCF。目前，唯一获得 NRC 批准的消除 CCF 考虑的方法是安装不同的设备或进行只能应用于简单设备的广泛测试。本文档提供了这两种方法的替代方法，以消除安全相关系统的 CCF 考虑。NEI 20-07 中的这种方法首先建立了一套用于保护数字仪器和控制 (DI&C) 系统中的软件 CCF 的基本原则，然后将这些基本原则分解为安全设计目标 (SDO)。本文件还建议使用保证案例方法来证明高安全重要性安全相关 (HSSSR) 安全相关应用系统中的软件应用程序和托管应用软件的平台已充分实现了这些规定的 SDO，以合理保证目标软件不包含可能导致软件 CCF 的软件设计缺陷，在软件开发过程中引入软件缺陷的可能性足够低，因此，由于软件设计缺陷而出现软件 CCF 的可能性也足够低，因此可以充分解决。当在对 HSSSR 系统进行多样性和纵深防御 (D3) 分析时不需要进一步考虑或假设，并且保证案例表明平台和相关应用软件已充分解决 CCF，则系统的这些部分可以免于被假设为 CCF 的来源。这并不排除对 HSSSR 系统 D3 分析的需要，因为可能会识别出其他 CCF 漏洞（例如，数据通信）。
避免 AI 强加泰勒版的音乐史
由于未来的音乐人工智能会密切关注人类音乐，它们可能会对数据库中的特定人类艺术家产生自己的依恋，而这些偏见在最坏的情况下可能会导致对所有音乐史的潜在生存威胁。人工智能超级粉丝可能会破坏历史记录和现存的录音，以支持自己的偏好，而保护世界音乐文化的多样性可能成为比强加 12 音平均律或其他西方同质化更为紧迫的问题。我们讨论了人工智能封面软件的技术能力，并制作了西方流行音乐史上著名曲目的泰勒版本作为挑衅性的例子；这些作品的质量并不影响整体论点（甚至可能会看到未来的人工智能试图将回形针的声音强加到所有现有的音频文件上，更不用说泰勒·斯威夫特了）。我们讨论了一些针对未来音乐垄断危险的潜在防御措施，同时分析了对完整音乐记录进行最大程度“泰勒·斯威夫特化”的可行性。关键词：音乐人工智能、泰勒·斯威夫特、多样性、人工智能封面
![arXiv:2501.07927v1 [cs.LG] 2025 年 1 月 14 日](/simg/d\d9644cb0e3282e91ab0a0efdbf71e923c6565160.png)
arXiv:2501.07927v1 [cs.LG] 2025 年 1 月 14 日
目前对大型语言模型 (LLM) 应用程序中针对即时攻击的防御的评估通常忽略了两个关键因素：对抗行为的动态性质以及限制性防御对合法用户施加的可用性惩罚。我们提出了 D-SEC（动态安全效用威胁模型），该模型明确将攻击者与合法用户分开，对多步骤交互进行建模，并以可优化的形式严格表达安全效用。我们通过引入 Gandalf 进一步解决了现有评估中的不足之处，Gandalf 是一个众包、游戏化的红队平台，旨在生成逼真的自适应攻击数据集。使用 Gandalf，我们收集并发布了 279k 次即时攻击的数据集。结合良性用户数据，我们的分析揭示了安全性和实用性之间的相互作用，表明 LLM 中集成的防御措施（例如系统提示）即使不阻止请求也会降低可用性。我们证明，受限应用程序域、纵深防御和自适应防御是构建安全且有用的 LLM 应用程序的有效策略。代码可在 https://github.com/lakeraai/dsec-gandalf 获得。
干扰素 - 作为沙眼衣原体的潜在抑制剂...
沙眼衣原体是细菌性传播疾病的主要原因，负责严重的生殖后遗症。在与该病原体的宿主免疫中有关的所有细胞因子中，ifn-ε最近因其对女性生殖道先天防御的潜在贡献而获得了重要的重要性。在此，我们的研究旨在通过测试其对衣原体发育周期不同阶段的影响，以及通过传输电子显微镜通过传输电子显微镜来测试其对衣原体发育周期不同阶段的影响，以及对衣原体发育周期的不同阶段的影响，以及对衣原体发育周期的不同阶段的影响，以及对衣原体发育周期的不同阶段的影响，通过传输。的主要结果是IFNHIM的能力改变了沙眼梭状芽孢杆菌的生长，如传染性后代的降低所表明的，以及细菌的零散分布和包含物质内的网状体形态的改变。总而言之，我们的结果表明，IFN-ε可以在针对沙眼梭状芽孢杆菌的先天和适应性免疫防御措施中发挥作用。将来，需要更类似于女性生殖道的生理环境，研究其在感染模型上的活性。
lamins b1和b2的耗竭促进染色质迁移率，并通过中尺度运动依赖机制诱导差异基因表达
计算机架构中的传统建模方法旨在获得处理器设计的性能，区域和能量的准确估算。随着规范执行攻击的出现及其安全问题，这些传统的建模技术在用于针对这些攻击的防御措施的安全评估时，这些传统建模技术不足。本文提出了Pensieve，这是一个针对早期Mi-Croarchitectural Defenses to to to tosulative decution攻击的安全评估框架。在核心上，它引入了一种系统研究早期防御的建模学科。此学科使我们能够覆盖功能等效的设计空间，同时由于资源争议和微体系优化而精确地捕获正时变化。我们实现了模型检查框架，以自动找到设计中的漏洞。我们使用笔迹来评估一系列最先进的猜测防御方案，包括延迟失误，Invisispec和Ghostminion，以正式定义的安全性属性，投机性非干扰。pensieve在所有这些防御方面都发现了类似Spectre的攻击，其中包括一种新的投机干扰攻击变体，它破坏了Ghostminion，这是最新的防御力之一。