机构名称：
¥ 5.0
人工智能 (AI) 的快速发展引发了专家、政策制定者和世界领导人对日益先进的人工智能系统可能带来灾难性风险的担忧。尽管已经分别详述了许多风险，但迫切需要系统地讨论和说明潜在危险，以便更好地指导减轻这些风险的努力。本文概述了灾难性人工智能风险的主要来源，我们将其分为四类：恶意使用，即个人或团体故意使用人工智能造成伤害；人工智能竞赛，即竞争环境迫使参与者部署不安全的人工智能或将控制权交给人工智能；组织风险，强调人为因素和复杂系统如何增加灾难性事故发生的可能性；流氓人工智能，描述了控制比人类聪明得多的代理的固有难度。对于每一类风险，我们都会描述具体的危害，提供说明性故事，设想理想情景，并提出减轻这些危险的实用建议。我们的目标是促进对这些风险的全面了解，并激发集体和主动的努力，以确保以安全的方式开发和部署人工智能。最终，我们希望这将使我们能够实现这项强大技术的好处，同时最大限度地降低发生灾难性后果的可能性。1
灾难性人工智能风险概述
主要关键词
相关文件推荐
