摘要。可解释的人工智能 (xAI) 被视为一种使 AI 系统不再是“黑匣子”的解决方案。确保透明度、公平性和问责制至关重要——这在金融领域尤为重要。本研究的目的是初步调查监管机构和受监管实体对 xAI 在金融领域应用的看法。在荷兰的三家银行和两家监管机构，使用半结构化访谈研究了三个用例（消费者信贷、信贷风险和反洗钱）。我们发现，对于所调查的用例，监管机构和银行在 AI 系统可解释性的期望范围方面存在差异。我们认为，金融部门可以从明确区分技术 AI（模型）可解释性要求和更广泛的 AI 系统在适用法律法规方面的可解释性要求中受益。