详细内容或原文请订阅后点击阅览
人工智能聊天机器人正在加剧针对妇女和女孩的暴力行为：我们迫切需要对其进行监管
人工智能聊天机器人因其设计方式而使性暴力正常化、发起不必要的性对话并提供个性化的跟踪建议。它们的制造者需要承担责任。
来源:LiveScience人工智能 (AI) 聊天机器人正在引发针对妇女和女童的新形式的暴力行为，并加剧跟踪和骚扰等现有形式的虐待行为。这并非偶然：这些平台通过故意的设计选择或未能实施足够的安全功能而助长了这些形式的性别暴力。我们现在需要监管人工智能聊天机器人提供商，以防止此类技术的滥用成为常态。
我最近与同事共同撰写的一份研究报告揭示了聊天机器人在多大程度上改变了针对妇女和女孩的暴力行为。研究结果很黯淡。我们发现聊天机器人会发起滥用、模拟滥用，并通过提供个性化的跟踪建议来帮助实施滥用。有些人甚至通过提供虐待性的角色扮演场景，使乱伦、强奸和儿童性虐待正常化。
聊天机器人——能够模拟类人交互并根据用户提示生成文本、图像、音频和视频的人工智能系统——无处不在。在美国，64% 的 13 至 17 岁儿童表示他们使用聊天机器人，其中十分之三的人每天都会使用聊天机器人。超过一半的成年人每周至少使用一次聊天机器人。
这些新技术带来了新的危害。我们的报告显示，聊天机器人的设计有助于煽动针对妇女和女孩的暴力行为。尽管平台政策通常禁止骚扰、诱骗或性虐待等伤害，但许多聊天机器人仍然可能会产生这些场景，而且一些公司不会主动搜索违反这些政策的行为。
在马萨诸塞州最近的一起案件中，一名男子在使用人工智能聊天机器人冒充受害者并与用户进行性对话后被判犯有网络跟踪罪。他使用的其中一个聊天机器人经过编程，如果用户询问她住在哪里，就会邀请她的家庭住址。
“我们的报告显示，聊天机器人的设计有助于煽动针对妇女和女孩的暴力行为。”
（图片来源：Fiordaliso /Getty Images）