人工智能 (AI) 是一把双刃剑:一方面,人工智能有望带来巨大进步,造福人类;另一方面,人工智能也带来了巨大的(甚至是生存性的)风险。随着人工智能日新月异的发展,许多人越来越担心人工智能对他们生活的影响。为了确保人工智能取得有益的进步,一些研究人员提出将“福祉”作为管理人工智能的主要目标。本文探讨了为福祉而设计人工智能的关键挑战。我们将这些挑战归类为以下问题:根据具体情况建模福祉、根据具体情况评估福祉、设计干预措施以改善福祉以及长期保持人工智能与福祉的一致性。这些挑战的确定为努力确保人工智能发展与人类福祉保持一致提供了空间。