人工智能、伦理与人性的交叉点,与温德尔·瓦拉赫 (Wendell Wallach)

在这次内容广泛的讨论中,卡内基委员会研究员 Samantha Hubner 和 Wendell Wallach 讨论了思考机器伦理的历史如何为负责任的人工智能发展提供信息。

来源:卡内基国际事务伦理委员会资源

我认为,让广大公众了解问题所在并参与辩论非常重要,这些辩论太重要了,不能由决策者(他们往往是消息最不灵通的人)或那些创造这些新技术的学术和工业界的领导者来决定。同样,他们经常被孤立。他们可能对自己的研究感到兴奋,并希望每个人都相信他们的研究将真正让世界变得更美好,但这并不意味着他们一定对这些技术将如何与工人、环境以及整个人类活动领域互动有着深刻的理解。

我该说什么呢?我希望那些已经掌握了一点科学知识的普通聪明读者能够了解正在发生的事情、关键概念是什么以及关键的道德问题是什么,这样他们就可以开始参与我们正在进行的关于采用什么、出于什么原因采用它以及我们可能应该监管什么的这些令人着迷的哲学和社会辩论。这实际上是所有这一切背后的驱动力。

鉴于技术的发展速度,当重新出版这本书的问题出现时,我坐下来思考了一会儿,然后说:“好吧,这有多重要?从第一稿付印到现在已经几年了。”

成簇的规律间隔短回文重复序列 (CRISPR)-Cas9 SAMANTHA HUBNER: 奥本海默 奥本海默 黑镜 黑镜

在您看来,我们是否看到在促进普通读者就这些问题进行更多对话和采取行动方面取得了任何进展?

WENDELL WALLACH: ChatGPT 那么,人工智能的整体影响真的是好的还是危险的? SAMANTHA HUBNER: Colin Allen 道德机器:教机器人明辨是非 道德机器:教机器人明辨是非 WENDELL WALLACH: 道德机器 X Y 艾萨克·阿西莫夫 机器人三大定律 道德机器 未来生命研究所 奇点