为了有效地满足我们在生活的不同领域的社会需求——无论是医疗保健还是工作表现,AI辅助系统必须融入并承认人类在做出决策和采取行动时所考虑的道德价值观和社会规范[1]。与Newell的[2]知识层面理论框架一致,该框架为AI代理的理性行为提供了指导,需要有原则的智能系统来明确反映和阐明AI代理解决问题的方法中的个人和社会价值观和规范。因此,人性在环是设计此类未来系统的核心要求。我们将人性化启发的AI系统定义为在知识层面融入表示和推理能力的系统,涵盖个人偏好和环境以及集体文化规范和价值观。使用人性在环概念作为核心设计要求取代了陈旧的人性在环概念,除了个人观点之外,还明确考虑了更广泛的社会文化观点。知识图谱 (KG) [3] 为人工智能系统的表示和推理能力提供了基础,以满足人性化在环的设计要求。
主要关键词