如果一个系统只有有限的能力,例如机器人地板清洁器或预编程的工厂机器人,或者它的使用在受限环境之外没有严重的溢出效应,例如隧道中的自动列车,那么与早期技术相比,它不会引起质的新风险。(…) 相比之下,如果人工智能系统在很大程度上不受控制的环境中相对自由地运行,例如无人驾驶汽车或全自动无人机,或者它可以自行做出高风险决策,例如某些医疗、金融和军事系统,那么社会影响在质上是新颖的。然后,我们将人工制品作为真正的决策者来处理,这也许是人类历史上第一次。(List 2021, 1218 我们的重点)
主要关键词