机构名称：
¥ 13.0
本报告以积极的视角，探讨了如何引导技术性人工智能研究，使其更加关注人类作为一个物种的长期生存前景。从消极的角度看，我们询问人类在下个世纪可能面临人工智能发展的哪些生存风险，以及当代技术研究可以按照什么原则来应对这些风险。介绍了假设人工智能技术的一个关键特性，称为优势，它可用于描述人工智能带来的各种潜在生存风险，即使人工智能范式可能会发生变化。然后研究了一组 29 个当代研究方向，以确定它们对生存安全的潜在益处。每个研究方向都通过场景驱动的动机进行解释，并提供现有工作示例以供参考。这些研究方向对社会有各自的风险和好处，这些风险和好处可能在不同程度的影响下发生，尤其是如果在缺乏充分的深思熟虑和监督的情况下部署这些方向的重大发展，则不能保证对生存安全有益。因此，每个方向都伴随着对潜在负面影响的考虑。从更广泛的角度来看，对研究方向的 29 种解释还说明了一种非常基本的方法来讨论和评估研究方向的潜在风险和好处，包括它们对全球灾难风险的影响。这种影响评估方法还远未成熟，但随着人工智能能力的扩展，它似乎值得强调和改进。
人工智能研究对人类生存安全的考虑（...
主要关键词
相关文件推荐
