为什么AI与像医疗保健这样的复杂社会技术系统之间没有简单的拟合度，尽管医生具有专业技能，但它们与所有人类相同的局限性，而认知科学可以为理解提供基础。这首先要认识到AI将永远不会成为复杂的社会技术系统的简单拟合度。首先，对AI可以执行的任务的理解是误导的。经常建立AI模型，而无需担心应解决的任务；而且他们的发展缺乏将使用它们的人的意见，在这种情况下，卫生系统中的从业者。第二，AI模型没有能力使用上下文或含义来告知他们的决策。这是有问题的，因为上下文批判性地决定了患者的结局质量。例如，以前检测败血症的AI算法因不了解部署的人口特征而错过了很大比例的病例。18,19然而，在同一人群中工作的医生将能够利用他们对不同人群中败血症率不同的知识（基于经验），以识别准确诊断败血症所需的症状。20此外，用于训练AI的数据集通常不会保持最新状态，以反映他们试图进行分类的人口的多样性或疾病，从而大大限制了技术的适应性和保质期。