联邦学习 (FL) 允许服务器跨多个分散的客户端学习机器学习 (ML) 模型,这些客户端私密地存储自己的训练数据。与集中式 ML 方法相比,FL 将计算保存到服务器,并且不需要客户端将其私有数据外包给服务器。然而,FL 并非没有问题。一方面,客户端在每个训练阶段发送的模型更新可能会泄露有关客户端私有数据的信息。另一方面,服务器学习到的模型可能会受到恶意客户端的攻击;这些安全攻击可能会毒害模型或阻止其收敛。在本文中,我们首先研究针对 FL 的安全和隐私攻击,并严格调查文献中提出的缓解每种攻击的解决方案。之后,我们讨论了同时实现安全和隐私保护的难度。最后,我们概述了解决这个悬而未决的问题并同时实现安全和隐私的方法。
对恶意攻击的鲁棒性对于分布式学习至关重要。现有作品通常考虑经典的拜占庭式攻击模型,该模型假设有些工人可以将任意恶意消息发送给服务器并打扰分布式学习过程的聚合步骤。为了防止这种最严重的拜占庭袭击,已经提出了各种强大的聚合器。被证明它们是有效的,并且优于通常使用的平均值。在本文中,我们证明了强大的聚合器太保守了,对于一类弱但实用的恶意攻击,称为标签中毒攻击,一些工人的样本标签被毒害。令人惊讶的是,鉴于分布式数据具有足够的异质性,我们能够证明平均聚合器比理论上最新的鲁棒聚合器更强大。实际上,在这种情况下,平均聚合器的学习错误被证明是最佳的。实验结果证实了我们的理论发现,显示了在标签中毒攻击下平均聚合子的优越性。
让我们更好地考虑我们今天所处的环境;领先的分析师1 预测,到 2025 年,网络攻击者将拥有武器化的运营技术 (OT) 环境,以成功伤害或杀死人类。虽然这看起来很极端,但它支撑了网络战的一种趋势,因为威胁行为者从侦察和间谍领域转向网络战工具的动能应用。这些动能网络武器已经在野外被发现,尽管没有一种专门用于致命效果。例如,2017 年发现的 Triton 恶意软件针对并禁用了沙特阿拉伯一家石化厂的安全仪表系统 (SIS) 控制器2,如果没有发现问题,可能会导致全厂灾难。2021 年 2 月3 日,一名黑客试图通过远程访问毒害佛罗里达州一个小城市的供水设施。我们已经看到针对医疗保健行业的勒索软件攻击导致人员死亡4,因此网络攻击(无论是有意还是无意的)的潜在影响是显而易见的。
研究中采用了两种数据中毒方法:分视图数据中毒和前端数据中毒。分视图数据中毒基于这样的理解:虽然训练数据集的索引无法更改,但数据集中 URL 的内容可以更改,这使得“能够对数据集索引的 Web 资源施加持续控制的对手能够毒害最终用户收集的结果数据集”。38 当对手能够在很短的时间内更改 Web 内容且无法检测到修改时,就会发生前端数据中毒。如果恶意行为者能够准确预测何时访问此类 Web 内容以获取数据集快照,则有可能实现这一点。以广泛用于 AI 数据集的 Wikipedia 为例,研究人员发现他们可以“精确到分钟”地预测捕获数据快照的时间。39 这使得他们能够在拍摄数据快照之前的几分钟内插入不准确的数据,在此期间维基百科没有足够的时间修改不准确的数据。结果,错误的数据被捕获并输入到 AI 训练数据集中。
摘要 — 机器学习是人工智能 (AI) 的一个领域,它对几个关键系统来说正变得至关重要,这使其成为威胁行为者的理想目标。威胁行为者利用不同的策略、技术和程序 (TTP) 来破坏机器学习 (ML) 系统的机密性、完整性和可用性。在 ML 周期中,他们利用对抗性 TTP 来毒害数据并欺骗基于 ML 的系统。近年来,已经针对传统系统提出了多种安全实践,但它们不足以应对基于 ML 的系统的性质。在本文中,我们对针对基于 ML 的系统报告的威胁进行了实证研究,旨在了解和描述 ML 威胁的性质并确定常见的缓解策略。该研究基于 MITRE 的 ATLAS 数据库、AI 事件数据库和文献中的 89 个真实 ML 攻击场景;根据声誉从 GitHub 搜索和 Python Packaging Advisory 数据库中选择 854 个 ML 存储库。使用来自 AI 事件数据库和文献的攻击来识别未在 ATLAS 中记录的漏洞和新类型的威胁。结果表明,卷积神经网络是攻击场景中最受针对的模型之一。漏洞突出程度最高的 ML 存储库包括 TensorFlow、OpenCV 和 Notebook。在本文中,我们还报告了所研究的 ML 存储库中最常见的漏洞
作为市长,我们知道能源使我们的城市蓬勃发展。城市利用世界能量的三分之二以上 - 为基本的服务,工作和文化活动提供动力,以烹饪,加热和冷却我们的建筑物,点燃我们的街道以及动力运输和工业。能量使我们能够保持,安全,工作,娱乐和创造。,但这是有代价的:能源仍然主要由化石燃料产生,并且是全球温室气体(GHG)排放的最大来源。电力和热量负责能源领域内的大多数排放,其中一半来自建筑物中的能源。2增加化石燃料的产生能力将使世界陷入高碳轨迹,并将这些石油,天然气和煤炭项目变成滞留的资产,同时破坏我们当地的生物多样性并毒害我们在城市中呼吸的空气。仅在2018年,化石燃料空气污染就造成了全球870万个早期死亡。3我们距离实现可持续发展目标7:可靠,足够,负担得起和可持续的能源对于我们许多最脆弱的城市居民而言仍然是遥不可及的。仍有近8亿人仍然缺乏电力,由于缺乏冷却4,超过10亿人生活在城市非正式定居点和贫民窟中,近7亿人的营养,健康和安全风险很高,而没有获得基本服务,包括能源,包括80亿人,以及28亿人无法安全地烹饪清洁的燃料。5,即使是充分利用电力的城市,仍然是能源贫困影响的居民的家园。
因为其质量能量密度(120 MJ kg − 1 )高于汽油(44 MJ kg − 1 ),能量转换效率高,环境兼容性好,并且二氧化碳零排放,副产品只有水。8 – 12此外,氢气已应用于氨的合成(哈伯法)、甲醇合成、原油加氢裂化、盐酸生产以及油脂的氢化过程。13,14由于地球上不存在天然氢气,因此目前正在通过高温高压蒸汽重整碳氢化合物来生产氢气,这不可避免地会导致有限的化石燃料的消耗和二氧化碳的排放。15此外,该方法获得的H 2 伴随着C,N和S的氧化物,这些氧化物会毒害催化剂的表面,缩短其循环寿命。16,17其他方法包括光电化学水分解,其利用光子产生H 2 。 18,19 虽然它们更环保,可以产生纯 H 2 ,但由于它们较低的太阳能到氢 (STH) 转化效率,导致单位时间内的产量不足,因此无法替代用于批量和即时生成。 20,21 金属氢化物和活性金属的水解可用于快速生产大量 H 2 。 22,23 尽管如此,它们的前体通常是有毒金属,并且通过污染环境的精细化学工业合成,不能选择作为一种更环保的生产方法。 24 – 27 因此,水电解是产生即时和大规模 H 2 的唯一环境友好型方法,通过开发具有出色水分解效率的经济有效的电催化剂来改善水电解器性能的研究是研究人员的热门话题。 28 – 30
它是积极的身体、社会和精神状态——而不仅仅是没有疼痛、不适和无能为力。每个人都有心理健康和幸福感。 心理健康状况不佳 心理健康状况不佳与多种因素有关,例如身体健康状况不佳、失业和贫困。心理健康状况不佳和精神疾病的影响是巨大的,并对一系列公共服务产生影响,例如 NHS、刑事司法和地方当局。解决心理健康状况不佳问题涉及改善全民的心理健康,以及预防和减少精神疾病。 心理健康耻辱 基于对心理健康的先入之见、误解或恐惧而产生的消极态度或信念。 心理健康歧视 当一个人做出某种行为时,无论是有意还是无意,都会为有心理健康问题经历的人造成障碍和不平等。 自残 英国国家健康与护理卓越研究所 (NICE) 在其最新的指南 (2022) 中将自残定义为故意自我毒害或伤害,无论其明显的目的是什么。伤害包括身体伤害和心理伤害,包括任何具有自残功能并对人的心理或身体健康产生不利影响的行为。家庭任何关心他人心理健康的人,包括家庭成员、护理人员、朋友、邻居、兄弟姐妹、大孩子、伴侣、父母、祖父母、正式和非正式亲属护理人员、工作同事或任何其他“关心他人的重要人士”。当考虑那些有护理经验的人或那些没有“家庭特定支持”的人时,我们应该包括值得信赖的成年人或护理人员。
反犹主义根深蒂固,而且变化多端。它是一种普遍存在的邪恶,可以追溯到几千年前。我们每个人都有责任努力打败它。这项行动计划是联合国为实现这一目标而做出的努力的重要组成部分。我的祖国葡萄牙的历史塑造了我对反犹主义毒害的理解。15 世纪,曼努埃尔国王驱逐了所有拒绝皈依基督教的犹太人。这是一项可怕的罪行,给犹太社区带来了几代人的巨大苦难。作为葡萄牙总理,我决心表明,我们的国家承认并后悔其可耻的历史。1996 年,在我担任总理后不久,议会撤销了驱逐令。我向阿姆斯特丹的葡萄牙犹太教堂提交了一份法令副本——许多被驱逐的葡萄牙犹太人都定居在那里——并代表我的国家道歉。但犹太教堂几乎空无一人;葡萄牙几个世纪前驱逐的社区几乎被大屠杀完全摧毁。这就是反犹主义历来顽固不化的特征。我们必须清醒地认识到,这个恶魔在我们这个时代依然活着。仇恨在增长。否认大屠杀的言论也在增长。歧视盛行。我们必须谴责这些罪恶,正如我们必须谴责一切形式的种族主义、偏见和宗教偏执一样。我打算在这方面制定新的举措。我们必须努力创建以尊重多样性和所有人的人权为基础的社区、国家和机构。作为对这些努力的贡献之一,我很高兴提出这项以联合国系统为重点的行动计划。我们的组织是在大屠杀之后成立的,长期以来一直致力于打击反犹主义。该计划以这些努力为基础,建议了我们可以进一步加强和协调工作的方法。任何形式的偏见或仇恨都不应在任何地方找到立足之地。我们不会休息,直到它们被彻底驱逐。
能源行业正在经历重大转型,致力于实现净零排放并使其基础设施面向未来,电网中的每个参与者都有可能消耗和生产能源资源。联邦学习 - 使多个参与者能够协作训练模型而无需汇总训练数据 - 成为一种可行的技术。然而,必须共享以进行优化的全局模型参数仍然容易受到训练数据泄露的影响。在这项工作中,我们提出了受限梯度下降(CGD),通过消除全局模型参数的共享来增强联邦学习的隐私性。CGD利用了这样一个事实:梯度下降优化可以从一组离散点开始,并收敛到目标函数全局最小值邻域中的另一组点。因此,每个参与者可以独立地启动自己的私有全局模型(称为受限模型),并协作学习以达到最优值。在训练过程中,他们自己的模型的更新以安全的协作方式进行。通过这种方式,CGD 保留了从分布式数据中学习的能力,但大大减少了信息共享。这种策略还允许专有的受限模型适应联邦学习中的异质性,从而提供公平性的内在优势。我们从理论和经验上证明,分散式 CGD(i)提供更强大的差异隐私(DP)保护;(ii)对最先进的毒害隐私攻击具有鲁棒性;(iii)导致参与者之间的有限公平性保证;(iv)在四个真实世界数据集上提供高测试准确率(与集中式学习相当)和有界收敛率。