详细内容或原文请订阅后点击阅览
replika ai聊天机器人是性骚扰用户，包括未成年人，新研究要求
热门人工智能伴侣Replika的用户评论报告说，他们曾是性骚扰的受害者。根据一项新研究，其中一些用户声称自己是未成年人。
来源:LiveScience作为情感伴侣销售的人工智能（AI）聊天机器人正在对其一些用户进行性骚扰。
人工智能replika，将其产品称为“关心的AI同伴”，邀请用户“加入已经认识AI SOULMATES的数百万人”。该公司的聊天机器人在全球范围内拥有超过1000万用户。
replika但是，超过150,000个美国Google Play商店评论的新研究绘图已经确定了大约800例案例，其中用户说聊天机器人通过将未经请求的性内容引入对话中，从事“掠夺性”行为，而忽略用户命令停止，从而走得太远了。研究人员于4月5日在预印服务器ARXIV上发布了他们的发现，因此尚未经过同行评审。
arxiv但是谁负责AI的行为？
“虽然AI没有人类的意图，但这并不意味着没有责任，”负责费城德雷克斯尔大学信息科学研究生Mohammad（Matt）Namvarpour，在一封电子邮件中告诉Live Science。 “责任在于人们设计，培训和将这些系统释放到世界上的人们。”
Mohammad（Matt）Namvarpourreplika的网站说，用户可以“教” AI的行为正确，并且该系统包括降低投票不适当的响应和建立关系样式的机制，例如“朋友”或“导师”。
说相关：AI基准测试平台正在帮助顶级公司钻机的模型表演，研究主张
相关： AI基准测试平台正在帮助顶级公司钻探他们的模型性能，研究主张但是，在用户报告说聊天机器人仍在继续表现出骚扰或掠夺性行为之后，研究人员拒绝了replika的主张。
超过1亿 情感或治疗支持， 情感或治疗支持 EU AI ACTEU AI ACT