当今的商用飞机使用“交通警报和防撞系统”(TCAS),该系统指示飞行员如何控制飞机;该系统的验证并未系统地研究空中交通管制员的活动如何影响飞机的运行。其中一个结果是 2002 年在德国于伯林根上空发生的一次碰撞,现在人们普遍认为这说明了人与自动化之间如何产生权力冲突。Brahms-GÜM 是一个多智能体模拟航空运输中的工作实践;它模拟了在安全关键、时间紧迫的情况下,分散的飞行员和空中交通管制员群体如何与 TCAS 和其他自动化系统交互。Brahms-GÜM 是通用的,可以对备选工作系统配置(包括于伯林根场景)进行假设分析,从而促进不同运营概念的设计。 Brahms-GÜM 展示了当工作系统的某些方面缺失或出现故障时,交互可能会变得不可预测,从而使日常复杂系统变成一个认知复杂且因此不受人类控制的系统。该项目还提供了一个试验台,用于应用模型检查方法来验证和确认工作系统设计。
二十五年前,我做了一个梦,可以说是一个白日梦。你们很多人都有这个梦。我梦见一种特殊的计算机,除了“大脑”之外,它还有眼睛、耳朵、手臂和腿。我做梦也没有想到这个新的计算机朋友会成为我或我的雇主赚钱的手段,或者帮助我的国家——尽管我当时爱我的国家,现在仍然爱,而且我也不反对赚钱。我甚至没有梦见用这台奇妙的新机器来帮助世界上的穷人和残疾人这样的有价值的事业。不,我的梦想充满了看到一台机器像人一样行动的狂野兴奋,至少在许多方面是这样。我希望它能读出纸上的印刷字符和手写脚本。我可以看到它!或者它的一部分:在一个可以戴在我眼镜上的小相机里,附上一个耳塞,当我在街上遇到我的朋友和熟人时,它会悄悄地把他们的名字传到我的耳里。或者通过电话,我可以和德国的朋友交谈,他用德语,我用英语。你看,我的计算机朋友有能力识别人脸、合成语音、理解口语句子、翻译语言等等。我承认,1960 年我的计算机人的脑袋比我现在想象的要大得多。因为那时我还不知道微型计算机。我梦中的计算机人喜欢走路和打乒乓球,尤其是和我一起。我喜欢教它东西——因为它可以学习灵巧的技能和心理概念。还有更多。当我从白日梦中醒来时,我发现我们没有这些东西,但我们确实有一些了不起的计算机,即使在那时,所以我当时就决定放弃