摘要：近年来，人工智能（AI）在医学领域显示出巨大的前景。然而，可解释性问题使得AI在临床中的应用变得困难。一些研究已经对可解释的人工智能（XAI）进行了研究，以克服AI方法黑箱性质的局限性。与深度学习等AI技术相比，XAI可以提供模型的决策和解释。在这篇综述中，我们对使用XAI进行医学诊断和外科应用的最新趋势进行了调查。我们从PubMed，IEEE Xplore，计算机协会和Google Scholar搜索了2019年至2021年期间发表的文章。我们将符合选择标准的文章纳入综述，然后从研究中提取和分析相关信息。此外，我们提供了一个关于乳腺癌诊断的实验展示，并说明了XAI如何应用于医学XAI应用。最后，我们总结了医学XAI应用中使用的XAI方法，研究人员遇到的挑战，并讨论了未来的研究方向。调查结果表明，医学XAI是一个很有前景的研究方向，本研究旨在为医学专家和AI科学家在设计医学XAI应用时提供参考。