详细内容或原文请订阅后点击阅览
原子人工智能：为什么澳大利亚需要人工智能遏制战略
特里蒂安·杨-格拉森 |网络、技术和太空研究员 图片来源自 Freepik。人工智能技术（AIT）给人类带来了技术遏制挑战。 2023 年 5 月，AIT 的设计者承认，“与流行病和核战争等其他社会规模风险一样，减轻人工智能带来的灭绝风险应该成为全球优先事项”。尽管有人呼吁暂停AIT的开发，但全球战略竞争依然有增无减。澳大利亚有...
来源:青年澳大利亚人国际事务Tritian Young-Glasson|网络、技术和太空研究员
澳大利亚宣布成立人工智能安全研究所。随着行业和政府迅速将 AIT 大规模集成到核心运营基础设施系统中，将控制权移交给 AIT 系统，而安全措施很少甚至没有，其有效性将受到考验。 AIT 的大量采用超过了遏制法规和协议制定的速度，危及国家安全和人身安全。因此，澳大利亚人工智能安全研究所应优先考虑采取全面且可快速采取行动的遏制措施，以确保澳大利亚和澳大利亚人在技术变革速度下的安全。
AIT 的原子性质
AIT 代表了我们这一代的原子时刻。特别是 AIT 代理人，它们能够在不受监督的情况下自主扩散，需要引起关注。虽然AIT和代理缺乏核武器的直接动力影响，但它们拥有通过更微妙的手段进行破坏的能力。 AIT系统可以学习部署并被授予访问各种形式的武器的能力，包括受操纵的人类特工、常规武器、敏感和有毒的数据以及生物载体，在没有人类监督或提供人类干预机会的警告系统的情况下执行复杂的攻击。
AIT 的民主化代表着对核先例的根本背离。如今，具有适度技术能力的个人可以跨互连系统开发和部署人工智能模型。此外，自主 AIT 代理现在展示了在没有人工监督的情况下跨网络独立行动、通信和协作决策的能力，并通过数字基础设施以最小的阻力进行扩散。
澳大利亚的关键基础设施漏洞
国内 AIT 遏制策略
AIT 的未来遏制，就像原子武器的遏制一样，取决于国内领导和国际合作。