当人工智能算法被标记为“女性”时,人们更有可能利用它

玩“囚徒困境”的人在对方玩家是男性或人工智能时不太可能合作,并且会剥削女性玩家。

来源:LiveScience

人们更有可能剥削女性人工智能伴侣而不是男性——这表明基于性别的歧视的影响超出了人类互动的范围。

11 月 2 日发表在《iScience》杂志上的一项最新研究调查了当人类或人工智能伙伴被赋予女性、非二元性别、男性且没有性别标签时,人们的合作意愿有何不同。

iScience

研究人员要求参与者玩一个著名的思想实验,称为“囚徒困境”,在这个游戏中,两个玩家要么选择相互合作,要么独立工作。如果他们合作,双方都会得到最好的结果。

囚徒困境

但如果一个人选择合作而另一个人不合作,那么不合作的玩家得分会更高,从而激励一个人“剥削”另一个人。如果他们都选择不合作,则双方得分都低。

研究显示,人们利用人工智能伴侣的可能性比人类伴侣高出约 10%。它还显示,参与者比男性伙伴更有可能与女性、非二元和无性别伙伴合作,因为他们期望其他玩家也合作。

研究发现,人们不太可能与男性伴侣合作,因为他们不相信他们会选择合作,尤其是女性参与者,与男性身份的代理人相比,她们更有可能与其他“女性”代理人合作,这种效应被称为“同质性”。

研究人员在研究中表示:“在人类与人工智能代理的交互中观察到的偏见可能会影响他们的设计,例如,最大限度地提高人们的参与度并在与自动化系统的交互中建立信任。” “这些系统的设计者需要意识到人类互动中不受欢迎的偏见,并在交互式人工智能代理的设计中积极努力减轻这些偏见。”

将世界上最迷人的发现直接发送到您的收件箱。

人工智能代理拟人化的风险