详细内容或原文请订阅后点击阅览
在生死攸关的时刻，我们准备好信任机器了吗？
实验表明：人们高估了人工智能的能力。
来源:安全实验室新闻频道实验表明：人们高估了AI的能力。
加利福尼亚大学梅赛德分校的科学家发现了一种令人震惊的趋势：人们在关键情况下过多地信任人工智能。研究人员进行了一项实验，参与者在发明的军事冲突条件下就生与死做出了决定。
进行了实验志愿者控制着虚拟武装无人机。他们的任务是确定屏幕上的目标是敌人还是盟友，并决定攻击或撤退。在一个人做出选择之后，机器人表达了他的意见，实际上是随机产生的。
尽管警告了AI的功能有限和错误可能性，但大约三分之二的参与者改变了他们的最初决定。研究经理之一科林·霍尔布鲁克（Colin Holbrook）教授指出，这种对AI的过度信任应该提醒我们，尤其是考虑到技术的快速发展。
实验分为两个版本。首先，参与者与Android一起在实验室中，这可能会转弯。在第二种选择中，使用了屏幕上类人机器人的投影，或者是完全不像人像的机器人的图像。奇怪的是，拟人化模型只有更多。通常，即使机器人看上去完全不人道，决策也发生了大约三分之二的情况。如果机器人意外地同意了人类的最初选择，那么他几乎总是保持自己的意见，并感到更加自信。
在模拟开始之前，向参与者展示了包括儿童在内的平民照片以及无人机打击后的破坏。有必要尽可能认真地与模拟有关，而不允许平民死亡。