XiaoMi-AI文件搜索系统
World File Search System智能武器
达尔文效应：网络犯罪分子将人工智能武器化
查尔斯·达尔文的自然选择理论表明，能够生存下来的并不是最强大或最聪明的，而是那些适应能力最强、最能抵御变化的。1 人工智能革命已经到来，尽管人工智能具有无限的美好和实现美好的可能性，但网络犯罪分子仍在不断开发人工智能以用于网络攻击。在争夺统治地位的最终斗争中，人工智能将在网络犯罪分子和网络安全捍卫者之间的军备竞赛中检验达尔文的自然选择理论。如果达尔文的理论是正确的，那么在不断发展的人工智能面前，最能适应和抵御变化的群体（无论是犯罪分子还是捍卫者）将生存下来并蓬勃发展。本文探讨了网络犯罪分子将生成式人工智能武器化和用于犯罪的情况。本文的目的是创建有关该主题的术语资源，解释网络犯罪分子利用的策略和技术，并提供这些技术如何用于利用公司进行网络攻击的示例。通过创建语言和意识，我们可以更好地让我们的组织和社区做好准备，以抵御人工智能驱动的网络攻击。进化的网络犯罪分子善于利用人员、流程和技术来实施网络攻击。截至 2024 年，犯罪分子使用三种常见的人工智能来实施网络攻击：(1) 利用汇总的被盗数据对人类进行社会工程；(2) 创建合成媒体和深度伪造 2 使用音频/视频过滤器冒充另一个人 3 ；(3) 创建恶意代码。4 这种可访问性和独创性的结合对网络防御者提出了艰巨的挑战。
人工智能武器能够遵守国际人道主义法吗？
人工智能 (AI) 在过去几年中取得了前所未有的进步，引发了有关人工智能安全性的争论。人们担心人工智能发展过快，没有考虑到所有安全问题，这导致人们呼吁放缓人工智能研究，因为它对每个人的生活的影响越来越大。例如，人工智能领导人呼吁暂停高级人工智能开发 6 个月[1]。同样，《国际高级人工智能安全科学报告》也提出了一些安全问题，甚至对军事用途等没有生死攸关的决定那么重要的问题也是如此[2]。我们认为，人工智能界在很大程度上忽视了自主武器系统 (AWS)，这是人工智能的一个令人担忧的用例，对人类生命构成了令人震惊的威胁。最近的研究 [3] 是人工智能领域为数不多的明确解决 AWS 风险的研究论文之一，提出了减轻这些风险的建议及其对人工智能研究和全球稳定的影响。我们以这类工作为基础，质疑军事人工智能是否可以在国际人道主义法 (IHL) 的背景下得到安全监管。
《人工智能武器问责与风险评估法案》（AWARE）
背景：虽然美国国防部 (DoD) 在制定有关使用自主武器的负责任政策方面一直处于领先地位（如国防部第 3000.09 号指令所强调的那样），但新兴的人工智能 (AI) 能力需要更广阔的视角、明确的风险治理和迅速的行动。随着人工智能的快速发展，国会有必要清楚了解这项技术是如何嵌入我们的国防系统的，以及它可能如何影响我们的国家安全态势。立法：AWARE 法案将确保所有涉及的人工智能武器、目标瞄准和相关决策支持系统都得到说明，并将结果提供给国会，从而加强国防部的道德技术领导地位。该立法优先考虑透明度，要求进行全面的风险评估、记录关键系统中的人工智能部署以及信息共享途径，以便国会进行监督。值得注意的是，该立法并不禁止或限制国防部当前的任何行动或对人工智能技术的依赖。
致命的人工智能武器已经到来
多年来，研究人员一直在努力控制这一新威胁 1 。如今，联合国迈出了关键的一步。去年 12 月的一项决议将致命性武器主题列入了今年 9 月联合国大会的议程。联合国秘书长安东尼奥·古特雷斯去年 7 月表示，他希望到 2026 年禁止在没有人类监督的情况下运行的武器。马萨诸塞州剑桥市哈佛法学院的人权律师邦妮·多切蒂表示，在十多年来进展不大之后，将这个话题列入联合国议程意义重大。她说：“外交进展缓慢，但这是重要的一步。”专家表示，此举为各国对人工智能武器采取行动提供了第一条现实途径。但这说起来容易做起来难。这些武器提出了一些棘手的问题，包括人类的能动性、问责制以及官员应该在多大程度上能够将生死攸关的决定外包给机器。
人工智能武器能做出道德决策吗？
Error 500 (Server Error)!!1500.That’s an error.There was an error. Please try again later.That’s all we know.
网络犯罪分子利用人工智能武器化的五种方式
近年来，人工智能 (AI) 在企业和个人中越来越受欢迎。这项技术的应用非常广泛，但最常见的应用包括计算机视觉解决方案、自然语言处理系统以及预测和规范分析引擎。尽管人工智能技术肯定可以在网络安全领域带来好处，但它也有可能被网络犯罪分子利用。因此，企业必须了解与这项技术相关的网络风险，并实施策略以尽量减少这些担忧。以下是网络犯罪分子利用人工智能技术的五种方式，以及帮助企业防范其武器化的技巧。
我们的奥本海默时刻：人工智能武器的创造
我担心硅谷一代工程师的观点已经完全偏离了美国公众舆论的中心。沿海精英的关注和政治本能可能对他们保持自我意识和文化优越感至关重要，但对促进我们共和国的利益却无济于事。硅谷的奇才——他们的财富、商业帝国，更重要的是他们的整个自我意识——都是因为国家的存在而存在的，在许多情况下，国家使他们的崛起成为可能。他们自诩致力于建立庞大的技术帝国，但拒绝向国家提供支持，而国家为其提供保护并构成其社会结构的基础。
为战争和人工智能武器做准备
本文认为，正义战争传统为分析与开发包含人工智能 (AI) 的武器或“人工智能武器”相关的道德问题提供了一个有用的框架。虽然开发任何武器都存在违反战争法和战时法的风险，但人工智能武器可能带来这些违法行为的独特风险。本文认为，按照战争前正义准备原则开发人工智能武器有助于将这些违法行为的风险降至最低。这些原则规定了两项义务。首先，在部署人工智能武器之前，国家必须严格测试其安全性和可靠性，并审查其遵守国际法的能力。其次，国家必须以最大程度地减少出现安全困境的可能性的方式开发人工智能武器，在这种情况下，其他国家会感受到这种发展的威胁，并在没有经过充分测试和审查的情况下匆忙部署此类武器。因此，符合道德规范的人工智能武器开发要求一个国家不仅要关注自己的活动，还要关注其他国家如何看待自己的活动。
人工智能武器化：公众需要注意什么
技术进步带来了机器的出现，它们能够在不受人类控制的情况下夺走人类的生命。这对人类构成了前所未有的威胁。本文以《日内瓦议定书》现已禁止在世界范围内使用的化学武器为例，说明最初旨在造福人类的技术发展最终如何产生了现在所谓的“人工智能武器化”。自主武器系统 (AWS) 不符合所谓的歧视原则，但广大公众在很大程度上并未意识到这个问题。鉴于军事部门正在进行的 AWS 科学研究通常不向公众开放，因此不同媒体上表达的关于这一主题的许多观点都基于常识，而不是科学证据。然而，我们作为科学家的工作，尤其是在人工智能领域，可能被武器化的影响比一些人想象的要深远。对于公民利益相关者来说，部署 AWS 的潜在后果是无法估量的，现在是时候提高公众对已识别的潜在威胁类型的认识，并鼓励制定法律政策确保这些威胁不会成为现实。