详细内容或原文请订阅后点击阅览
永恒记忆还是数字诅咒？人工智能通过复活死者造成心理伤害
专家们呼吁立法监管能够重新创建死者身份的人工智能。
来源:安全实验室新闻频道永恒记忆还是数字诅咒？人工智能通过复活死者造成心理伤害
专家们呼吁立法监管能够重新创建死者身份的人工智能。
剑桥大学的专家对允许与死者进行文本和语音对话的人工智能技术的发展表示担忧。研究人员表示，这种被称为“grifbots”或“dead bots”的技术可能会造成心理伤害，并造成死者存在的错觉，这被称为“数字跟踪”。
《哲学与技术》杂志上发表的一篇文章谈到了此类人工智能聊天机器人被滥用的潜在危险，包括暗中为产品和服务做广告，或者声称已故的父母仍然“与他们在一起”，从而在儿童中制造焦虑。此外，与“死机器人”互动可能是一种“压倒性的情感负担”。
理念与技术剑桥未来智能中心的研究人员提议为此类平台开发特定的设计协议，以防止将“死亡机器人”用于不敬的目的，例如广告或社交媒体活动。他们还坚持认为，必须在其数据被用于创建机器人之前获得个人的同意。
文章中提出的场景之一是“Paren’t”公司，该公司创建了一个机器人来帮助一名八岁的孩子克服母亲去世后的悲伤。治疗机器人最初的成功最终导致孩子由于人工智能反应模棱两可而感到困惑。
该研究的合著者 Tomasz Hollanek 提议对“死亡机器人”的使用引入年龄限制，并提供“有意义的透明度”，以便用户始终意识到他们的对话者是人工智能。这可能包括类似于在观看内容时警告可能癫痫发作的警告。