弗洛伊德(1961)曾有句名言:文明表面上是为了保护人类免遭苦难,但矛盾的是,它却是不幸的一大根源。同样,人工智能既被吹捧为人类最大问题的解决方案,又被谴责为人类有史以来面临的最大问题之一——甚至可能是最后一个问题。许多专家认为,人工智能对人类在这个星球上的生存构成了威胁:如果不是核战争、气候灾难或另一场全球流行病,那么预示世界末日的将是“超级智能”机器(Barrat 2013;Bostrom 2014;Clark 2014;Yampolskiy 2015;Müller 2016;Cava 2018;Russell 2019)。也可能不是。其他人工智能倡导者声称,新一轮的道德发展将迎来“良好人工智能社会”(Floridi 等人2018),摆脱稀缺和纷争,从而将西方带入目的论的顶峰,正如日本技术专家 Akihito Kodama(2016)所说:重返伊甸园——无需工作就能获得富足,生活没有痛苦——尽管数字化了(Hilton 1964;Noble 1999;Geraci 2010;Diamandis 和 Kotler 2012)。