人工智能权利的公共选择问题

人们爱上了他们的聊天机器人，哀悼被删除的人工智能伴侣，并将人工系统视为浪漫的伴侣或家庭成员。随着人工智能变得更加复杂，这些关系将变得更加普遍。因此，关于人造系统是否值得道德考虑的政治冲突也会如此。

要理解原因，请考虑潜在的道德模糊性。道德地位的标准标志——承受痛苦的能力、自我意识、理性——是内在特征，与其说是直接观察到的，不如说是推断出来的。对于我们的人类同胞，我们能够很好地认识到我们人类同胞的道德地位，因为我们共享生物学、进化历史以及行为和表达线索，我们可以使用这些线索以合理的可靠性来推断他人的想法和感受。对于人工系统，我们缺乏很多这些，取而代之的是行为和表现，比如痛苦的外表、注意力的外表、内心生活的外表，每一个设计师都被激励去优化。

这种道德模糊性的含义是，在可预见的未来，甚至可能无限期地，人工系统的道德地位可能会在认识上保持模糊性。相关的心灵哲学和认知科学存在争议。即使没有解决方案，我们仍然必须在不明确的基础上就权利、法规、法律类别和资源分配做出决定。

双重道德风险

围绕人工智能、机器人和机器人的道德地位的困境可以清楚地表述出来。两种不同类型的错误都是可能的，并且都会带来真正的道德成本。

政治与模糊性的放大

这些综合特征的结果是，大型民主国家将真正的认知不确定性转化为声誉竞争。如果基本事实很清楚，那么转变就是部分的。然而，当事实不明确时，转变几乎总是完全的。