我们更安全,但不完美的自动化系统

与威廉·兰格威奇(William Langewiesche)关于2009年航空法国第447号航班坠机事故的故事相似,是鲍勃·沃克特(Bob Wachter)对UCSF医疗中心的儿科患者的非致命性过量的说法。这两个故事都不是新的,我没有声称我的微弱见解是新颖的。

来源:偶发经济学家

与威廉·兰格威奇(William Langewiesche)关于2009年航空法国第447号航班坠机事故的故事相似,是鲍勃·沃克特(Bob Wachter)对UCSF医疗中心的儿科患者的非致命性过量的说法。这两个故事都不是新的,我没有声称我的微弱见解是新颖的。*

威廉·兰格威奇(William Langewiesche Bob Wachter的帐户

实际上,Wachter提到了447航班的致命崩溃,因为他解释了自动化如何为灾难创造新的向量,即使它关闭了旧灾难。 HE和Langewiesche都提供了证据表明,自动化(航空和临床决策支持和电子医疗系统中的秩序履行功能)平均而言,在案件子集中迎合危险的同时,可以平均提供安全性。这并不是他们用来推动叙事的作品或引人注目的轶事的敲门声,但是当您阅读任何一个故事时,这是对一些观点的恳求,我强烈推荐这两者兼而有之。

两者的核心是一系列错误,始于人类(或人类)对自动系统运行的模式的误解。 Wachter提供了一个非常好的示例,说明了这样的“模式错误”,我敢肯定,您可以与:不小心打开帽子锁定。 CAPS锁定键切换键盘模式,以使所有(或大多数)键的行为不同。

键入时,无意的盖帽锁定切换可能会导致烦人的模式错误,例如无法正确输入密码。当飞机飞行或为患者订购药物时,即使通常是烦恼的烦恼,模式错误也可能是致命的。

每公斤患者体重

这种假设不是自动化系统所独有的。我很清楚,我孩子的每一个哀号都不是致命的痛苦。他们的警报声音并不总是意味着他们认为的意思。同样,如果他的对手当选,则警告美国终结的政治候选人不再令人震惊。

上面提到的

@afrakt