机构名称：
¥ 2.0
杰里米·边沁 6 和约翰·斯图尔特·密尔 7 曾有著名论述，实体因其具有获得快乐或喜悦、痛苦或苦难的能力而值得道德考虑。在功利主义的简单版本中，道德选择是那些最大化世界享乐平衡的选择——世界快乐总和减去世界苦难总和。一个实体因其对这些总和的贡献能力而值得道德考虑。那么，对人工智能系统道德地位的一种简单的功利主义方法是这样的：人工智能系统能够体验快乐或痛苦的程度，它就值得道德考虑，能够体验人类快乐和痛苦水平的人工智能系统应该得到与人类同等的道德考虑。在考虑做什么时，我们应该像重视我们自己的享乐状态一样重视它们的享乐状态。
设计具有权利、意识、自尊等的人工智能……
主要关键词
相关文件推荐
