机构名称：
¥ 1.0
人工智能（AI）系统的安全是人类决策之一，既是一个技术问题。在AI驱动的决策支持系统中，尤其是在医疗保健等高风险环境中，确保人类互动的安全至关重要，鉴于遵循错误的AI建议的潜在风险。为了探索这个问题，我们在物理模拟套件中进行了以安全为中心的临床医生-AI相互作用研究。医生被放置在模拟的重症监护病房中，并带有人类护士（由经验培训者扮演），ICU数据图，高保真患者的人体模特和AI建议系统。临床医生被要求为模拟患者开出两种药物，患有败血症并戴着眼镜的眼镜，以使我们能够评估他们的凝视在哪里。我们在看到AI治疗建议之前和之后记录了临床医生治疗计划，这可能是“安全”或“不安全”。92％的临床医生拒绝了不安全的AI建议，而安全的AI建议占29％。医生增加了注意力（+37％的注视固定），以不安全AI建议与安全的建议。但是，在不安全的情况下，对AI说明国家的视觉关注并不高。同样，在不安全的AI与安全AI后，临床信息（患者监测器，患者图表）没有得到更多关注，这表明医生没有回顾这些信息来源来调查为什么AI建议可能不安全。医师只能成功说服通过床头护士的脚本评论来改变剂量。我们的研究强调了人类监督在安全至关重要的AI中的重要性，以及在高保真环境中评估人类系统的价值，更像现实世界实践。
血有灌注柱有选择地吸附膝盖+淋巴细胞，以提高抗肿瘤免疫力和肿瘤大鼠的存活率
主要关键词
相关文件推荐
