On cybersecurity of AI, the EU AI Act provides for so-called ‘conformity assess ments' to determine whether high-risk AI systems are cyber compliant with the EU Regulation on horizontal cybersecurity requirements (the Cyber Resilience Act Regulation (EU) 2024/2847), which involve considering “risks to the cyber resilience of an AI system as regards attempts by unauthorised改变其使用,行为或绩效的第三方,包括AI特定的漏洞,例如数据中毒或对抗性攻击以及基本权利的风险。”公司还可以自愿选择该法案第15条中规定的《 AI法》的网络安全计划。在任何情况下,公司都必须确保在高风险的AI系统中,使用的器械包含《欧盟AI法案》中规定的Cyberse Curity水平。
根据侵入性,BCI 主要分为两类。非侵入式 BCI 无需手术即可从外部刺激大脑。尽管某些技术可以针对大脑的较小区域,但非侵入式 BCI 可以覆盖大脑的较大区域。相比之下,侵入式系统可以应用于小区域,甚至具有单神经元分辨率,但会带来更高的生理风险(Ramadan 和 Vasilakos,2017 年)。基于 BCI 的相关性和扩展性,近年来出现了新的技术和公司,专注于开发新的侵入式系统,以神经元粒度刺激大脑。Neuralink 就是一个例子(Musk 和 Neuralink,2019 年),这家公司设计了颠覆性的 BCI 系统来记录神经元级别的数据,目前正致力于覆盖刺激功能。此外,神经尘埃(Seo 等人,2013)是一种由数百万个位于大脑皮层中的纳米级可植入设备组成的架构,可以进行神经记录。神经尘埃的演变是无线光遗传学纳米网络设备 (WiOptND)(Wirdatmadja 等人,2017),它使用光遗传学来刺激神经元。尽管这些方法很有前景,但 Bernal 等人 (2020) 的作者表明,它们存在漏洞,可能允许攻击者控制两个系统并执行恶意刺激动作,从而改变自发的神经元信号。根据攻击的覆盖范围(就大脑区域和受影响的神经元数量而言),网络攻击者可能会造成永久性脑损伤,甚至导致患者死亡。在同一方向上,Bernal 等人 (2021) 发现 BCI 的网络安全领域还不够成熟,非复杂的攻击可能会造成重大损害。总之,攻击者可以利用 BCI 漏洞来利用这些有前途的神经刺激技术。以这些研究的发现为动机,本文重点关注针对旨在改变神经元行为的网络攻击的稀缺研究。此外,还需要新的方法来衡量和理解这些攻击的影响。特别是,这些问题具有特殊的意义,因为攻击可能会恶化或重现常见神经退行性疾病的影响(Bernal 等人,2021 年)。为了改进以前的挑战,这项工作的主要贡献是定义和实施一种新的神经元网络攻击,即神经元干扰网络攻击 (JAM),重点关注神经活动的抑制。本研究旨在探索抑制性神经元网络攻击对大脑的影响。然而,文献中缺乏全面的神经元拓扑结构,因此,我们模拟了小鼠视觉皮层的一部分,放置在大脑的枕叶区域,定义了小鼠试图离开特定迷宫的用例。神经元拓扑是使用经过训练以解决此特定用例的卷积神经网络 (CNN)(Géron,2019)构建的。这项工作的第二个贡献是评估了 JAM 网络攻击对特定场景中的神经元和人工模拟造成的影响。为了进行分析,我们使用了现有指标,但也定义了一组新指标,得出结论:JAM 网络攻击可以改变自发的神经元行为,并迫使小鼠做出不稳定的决定以逃离迷宫。
为什么我们应该考虑“21 世纪的控制论”?我可以列举四个原因。首先,也许“21 世纪的控制论”在某种程度上已经存在。很明显,控制论所推广的概念和技术比以往任何时候都更加普及。术语“反馈”和“信息”的传播具有里程碑意义,并且与“控制论”这一符号的使用率下降无关。换句话说,我们正在见证所谓的“没有控制论的控制论”,即其概念和人工制品的传播,但不再是过时的标签。有第一代控制论,与维纳、麦卡洛克和冯·诺依曼等人物有关,还有“第二代控制论”,以自组织为中心,与冯·福斯特和瓦雷拉等人有关。现在,我们可能正处于“第三次控制论”的开端,我们不应该再提及名人的名字,而应该提及谷歌、亚马逊、Facebook 或 OpenAi 等公司的名字。这会不会就是难以捉摸的“21 世纪控制论”,一个没有说出名字的第三次浪潮?
1 https://www.gov.uk/government/publications/cyber-security-skills-in-the-uk-labour-market-2024/cyber-security-skills-in-the-uk-labour-market-2024
本讨论文件是 2024 年研讨会、多次采访、对话和笔记的成果,是欧洲政策中心“欧洲量子前沿”项目的组成部分。该项目的结构是一个工作组,汇集了各种各样的参与者,讨论围绕量子技术和欧盟议程的紧迫问题。本文是对 2023 年 7 月发表的同名论文“欧洲量子网络安全议程”的补充和发展。它旨在陪伴欧盟度过这个紧迫时期,确保欧盟的网络安全议程面向未来。EPC 在这个项目上的工作得到了 Quantum Delta NL 的支持,该公司是 EPC 工作组的创始合伙人。作者要感谢 Jesse Robbers、Ulrich Mans 和 Chris Kremidas-Courtney 对本文的宝贵意见,以及 EPC 同事 Johannes Greubel、Georg Riekeles 和 Beatrice White 对项目和出版物的支持。
在日益数字化和互联互通的欧洲,欧盟从各个方面努力提升网络弹性,保护其公民和企业免受网络威胁。该行动计划应对了形势的紧迫性和该行业面临的独特威胁。它以现有的网络安全立法框架为基础。根据 NIS2 指令,医院和其他医疗保健提供者被确立为高关键性行业。NIS2 网络安全框架与《网络弹性法案》相辅相成,《网络弹性法案》是欧盟第一部对包含数字元素的产品提出强制性网络安全要求的立法,于 2024 年 12 月 10 日生效。委员会还根据《网络团结法》建立了网络应急机制,该机制加强了欧盟的团结和协调行动,以发现、准备并有效应对日益增长的网络安全威胁和事件。
随着网络威胁的复杂性和频率继续发展,美国和加拿大的组织在做出明智的决定以有效地管理和减轻风险方面面临重大挑战。本文提出了一个量化的网络风险管理模型(QCRMM),以在面对这些动态威胁的情况下增强决策过程。该模型集成了定量风险评估方法,高级数据分析和威胁建模技术,以使组织能够以结构化的方式识别,评估和优先考虑网络风险。QCRMM强调了通过数据驱动的风险管理方法,利用关键绩效指标(KPI)和风险指标来量化潜在影响和网络事件的可能性。它结合了诸如蒙特卡洛模拟和贝叶斯网络之类的工具,以预测和评估各种网络攻击场景的可能性,从而使组织能够就降低风险策略做出更准确,明智的决定。此外,该模型还为决策者提供了可行的见解,以支持资源的成本效益分配以保护关键资产。该模型旨在为各个部门的组织(包括金融,医疗保健,能源和关键基础设施)提供灵活,适应性和可扩展性。通过与区域监管框架保持一致,例如在美国和加拿大的网络安全战略中的NIST网络安全框架,QCRMM确保遵守最佳实践和法律要求,同时促进强大的网络安全姿势。案例研究表明,QCRMM在组织中的风险优先级和资源分配中的应用,从而减少了潜在的财务损失,最小化的运营中断以及改善了组织对网络威胁的弹性。总而言之,QCRMM提供了一种全面,可量化的方法来增强网络风险决策,帮助美国和加拿大的组织做出明智的,积极主动的决策,以防止不断发展的网络威胁格局。该模型使组织能够从战略上解决网络风险,重点是最大程度地降低影响,同时优化资源。