非故意

万能药还是非故意的非人化？

人工智能 (AI) 的应用能够极大地优化我们的生活，而且很明显，随着时间的推移，这种优化只会越来越明显。从很多方面来看，这都是非常有前景的，但人工智能在我们社会中的表现形式也引发了许多关于非人性化的担忧。人们通常认识到，人工智能系统会隐性地发挥社会权力关系——无论是有意还是无意，就像偏见的情况一样——因此，只要我们改进模型，发现这种隐藏的故意压迫领域，危险就会消失。然而，这些观点忽略了这样一种可能性，即正是因为人工智能能够完美地实现有利的目标，才可能产生有害的后果。这个不良副作用的问题，与我们为人工智能设定的目标完全无关，是通过“非故意非人性化”的概念来探讨的。为了阐明这一现象，本文分为两部分。第一部分将确定天真的人工智能使用如何成为这一问题的典型案例。在第二部分中，我们将论证这些问题以双重方式出现；人工智能不仅有可能对“使用者”造成伤害，而且也有可能对用户造成伤害。有了这个概念模型，我们才有可能意识到我们接受人工智能解决方案的反面。