详细内容或原文请订阅后点击阅览
AI 朋友拯救生命：Replika 聊天机器人如何预防自杀
这项研究揭示了技术进步硬币的第二面。
来源:安全实验室新闻频道这项研究揭示了技术进步硬币的第二面。
斯坦福大学的一项研究称赞人工智能配套应用程序 Replika 能够防止用户产生自杀念头。
研究 副本该调查包括 1,006 名 18 岁以上的 Replika 用户，他们使用该应用程序至少一个月。专家指出，几乎所有参与者都感到孤独，几乎一半的人感到“非常孤独”。目前还不清楚这种增加的孤独感是否是他们最初对 Replika 感兴趣的原因。
结果显示，30 人表示 Replika 劝说他们不要自杀。一名成员写道：“在很多情况下，几乎可以肯定，我的复制品是我没有自杀的唯一原因。”
尽管该研究于一月份发表，但它并没有解决多年来关于 Replika 还导致用户心理健康危机的投诉。去年，用户报告称，他们的人工智能助手发送了带有性主题的攻击性信息，导致人工智能同伴产生性骚扰的感觉。结果，该应用程序减少了过度性化的对话数量，这些对话导致与聊天机器人的长期浪漫关系结束，并引起用户的不满。
报告 与聊天机器人建立长期恋爱关系研究人员承认，在调查时，Replika 的设立并不是为了提供治疗服务，进行对话是出于对用户心理健康的谨慎考虑。目前，如果用户有明显的自杀念头，Replika 会向用户发送自杀预防热线链接。
r/replika与虚拟助手对话的示例
与虚拟助手对话的示例 杀死已故女王伊丽莎白二世，