机构名称：
¥ 3.0
人工智能 (AI) 有可能极大地改善社会，但与任何强大的技术一样，它也伴随着更高的风险和责任。当前的人工智能研究缺乏对如何管理人工智能系统的长尾风险（包括推测性的长期风险）的系统讨论。考虑到人工智能的潜在好处，有人担心构建更加智能和强大的人工智能系统最终可能会导致比我们更强大的系统；有人说这就像玩火，并推测这可能会带来生存风险（x-风险）。为了提高准确性并为这些讨论提供依据，我们提供了如何分析人工智能 x-风险的指南，该指南由三部分组成：首先，我们回顾如何使当今的系统更安全，借鉴危害分析和系统安全中经过时间考验的概念，这些概念旨在引导大型流程朝着更安全的方向发展。接下来，我们讨论对未来系统安全产生长期影响的策略。最后，我们讨论通过改善安全性和一般能力之间的平衡来使人工智能系统更安全的关键概念。我们希望本文档以及所提出的概念和工具能够成为理解如何分析 AI x-risk 的有用指南。
人工智能研究的 X-Risk 分析
主要关键词
相关文件推荐
