详细内容或原文请订阅后点击阅览
人工智能将如何为你我做出道德决定？
计算机科学家 Iyad Rahwan 表示，迫切需要研究人工智能如何做出道德选择，因为它很快就会代替我们做出许多此类决定
来源:可知 Magazine你正在开车，一个人突然冲到你面前 - 你会突然转向，即使这意味着撞到墙上吗？如果这个人是个孩子怎么办？
报税时，您是否会利用任何可以发现的漏洞？
很快，人工智能系统可能会为我们做出此类决策。如今，全球一半以上的人口已经在使用人工智能聊天机器人，并且在日益多样化的环境和产品中，各种人工智能可能会成为我们生活的一部分。
柏林马克斯·普朗克人类发展研究所人类与机器中心的计算机科学家 Iyad Rahwan 和他的团队认为，我们应该在这些问题出现在现实生活中之前对其进行研究。在他们所谓的“科幻科学”中，该团队正在通过观察人们在使用新型人工智能时的行为方式来研究未来的场景，并询问人们他们认为人工智能应该如何表现。
研究人员强调，我们的目标是尽可能客观地详细预测人类和人工智能未来将如何互动，而不是规定公司和政府应如何应对这一危险的局面。
我们会一直难以信任人工智能，还是会更喜欢它而不是与人类合作？与人工智能互动会让我们的行为变得更好还是更糟？当出现问题时谁应该承担责任？
Rahwan 和合著者在 2024 年心理学年度评论中探讨了人工智能的道德心理学。为了篇幅和清晰度，本讨论已进行编辑。
为什么我们需要研究“人工智能的道德心理学”？道德心理学难道不是人类特有的东西吗？
我们需要了解他们遵循哪些道德原则（如果有的话），以及这些原则在多大程度上归因于他们的训练、编程、他们所输入的数据集或他们运作的环境。
一个问题可能是这些东西往往是一个移动的目标。社交媒体与最初相比已经发生了很大变化，人工智能系统的变化甚至更快。