详细内容或原文请订阅后点击阅览
Bernstein：人工智能聊天机器人中存在“创造变革的机会之窗”
聊天机器人开发商 Character.AI 表示，将禁止 18 岁以下的用户使用其虚拟伴侣，这是继去年一名 14 岁用户的母亲在联邦法院起诉该公司之后采取的前所未有的举措，称该男孩在杀死 [...] 之前的几个月里几乎一直与 Character.AI 聊天机器人交谈
来源:The 74聊天机器人开发商 Character.AI 表示，将禁止 18 岁以下的用户使用其虚拟伴侣，这是继去年一名 14 岁用户的母亲在联邦法院起诉该公司之后采取的前所未有的举措，称该男孩在 2024 年 2 月自杀前的几个月里几乎一直与 Character.AI 聊天机器人交谈。
角色.AI 联邦法院这位母亲说，这个“危险且未经测试”的聊天机器人“虐待和掠夺我的儿子，操纵他结束自己的生命。”诉讼称，母亲声称，这基本上帮助了他自杀，促使他与朋友和家人隔离，甚至一度询问他是否有自杀计划。
在 10 月 29 日的公告中，该公司表示，这一变化将在 11 月 25 日之前生效。在此之前，Character.AI 将限制青少年用户每天使用聊天机器人的时间不得超过两小时，并在未来几周内逐步减少。
公告它还表示将建立自己的人工智能安全实验室，这是一个独立的非营利组织，“致力于为下一代人工智能娱乐功能创新安全调整”。
为了就这一举措以及人工智能安全、隐私和数字成瘾等问题提供观点，The 74 的 Greg Toppo 采访了西顿霍尔大学法学教授兼隐私保护研究所所长盖亚·伯恩斯坦 (Gaia Bernstein)。伯恩斯坦还为学生和家长创建了一个学校外展计划，首次向许多人介绍了“技术过度使用”的概念。
盖亚·伯恩斯坦 隐私保护研究所同样，她感觉工作效率较低，“因为我一直在发短信和发送电子邮件，而不是集中注意力。”
但直到举报者开始揭露如此多社交媒体工具背后隐藏的设计，伯恩斯坦才开始考虑如何帮助自己和其他人限制这些工具的使用。
自动播放