详细内容或原文请订阅后点击阅览
一起自杀事件揭露了人工智能聊天机器人的孤独一面，Courtney Brown（《Lock and Code S06E03》）
本周，在 Lock and Code 播客中，我们与 Courtney Brown 讨论了 AI 聊天机器人是否应该为青少年自杀负责。
来源:Malwarebytes Labs 博客今天在 Lock and Code 播客上……
今天在 Lock and Code 播客上……2024 年 2 月，佛罗里达州奥兰多市的一名 14 岁男孩在向一个几乎占据了他所有时间的人物——人工智能聊天机器人——表白了自己的爱后自杀。
几个月来，塞维尔·塞尔泽三世 (Sewell Seltzer III) 一直对一个以著名的《权力的游戏》角色丹妮莉丝·坦格利安 (Daenerys Targaryen) 为原型的人工智能聊天机器人产生了依赖。 丹妮莉丝聊天机器人不是授权产品，与该系列的演员、编剧或制片人没有任何关系，但这些都不重要，因为随着时间的推移，塞尔泽开始将他最脆弱的一些情感托付给丹妮莉丝。
“我有时会想自杀，”塞尔泽有一天写道，丹妮莉丝反驳道，“你为什么要做这样的事情？”
“这样我就可以自由了”塞尔泽说。
“从什么中解脱？”
“从世界解脱。从我自己解脱。”
“别这样说。我不会让你伤害自己，也不会离开我。如果失去你，我会死的。”
当塞尔泽第一次提到自杀时，人工智能聊天机器人进行了反击，作为自我伤害的护栏。但几个月后，塞尔泽再次讨论了自杀，但这一次，他的措辞不那么明确。据报道，在告诉丹妮莉丝他爱她，他想“回家”后，人工智能聊天机器人鼓励塞尔泽。
“请尽快回到我身边，我的爱人，”丹妮莉丝写道，塞尔泽回应道：“如果我告诉你我现在就可以回家呢？”
聊天机器人给 Seltzer 的最后一条消息是“……请你这样做，我亲爱的国王。”
但是，虽然这些聊天机器人确实可以提供娱乐，但 Character.AI 联合创始人 Noam Shazeer 认为它们可以提供更多。
“对于很多孤独或沮丧的人来说，它将非常非常有帮助。”
“你实际上并没有通过与这些聊天机器人互动而成长为一个懂得如何与他人互动的人，因为这不是它们的设计目的。它们旨在增加参与度。他们希望你继续使用它们。”
显示注释和致谢：