摘要 人工智能 (AI) 和机器学习 (ML) 技术在医学研究中占据着重要的地位,因为它可以实现更早、更准确的诊断。然而,尽管许多人认为人工智能是一种充满希望和希望的技术,可以实现更早、更准确的诊断,但医院对人工智能和机器学习技术的接受度仍然很低。造成这种情况的主要原因是这些技术缺乏透明度,尤其是认知透明度,这导致人工智能扰乱或困扰临床环境中既定的知识实践。在本文中,我们描述了一个用于临床环境的人工智能应用程序的开发过程。我们展示了人工智能开发人员与临床医生和生物医学科学家如何密切合作,协商和共同产生认知透明度,从而形成人工智能被接受为认知操作符的环境。本文借鉴与合作研究人员合作开发用于罕见呼吸系统疾病(肺动脉高压/PH)早期诊断的人工智能技术的定性研究,探讨了如何将临床医生和临床科学家纳入人工智能开发人员的协作实践中,以消除透明度的困扰。我们的研究表明,在与 PH 相关的 AI 开发的三个维度上,如何消除令人不安的透明度:查询数据集、构建软件和训练模型。密切合作产生了一种既具有社会性又具有技术性的 AI 应用程序:它整合并铭刻了不同参与者在开发过程中的知识过程。我们认为将这些应用程序称为“人工智能”是一种错误的说法,如果将它们重新定义为社会技术智能的形式,它们将得到更好的开发和实施。
主要关键词