传统电网长期以来一直受到运行不可靠、不稳定、不灵活和效率低下的困扰。智能电网（或智能能源系统）继续通过新兴技术、可再生能源和其他趋势改变能源行业。人工智能 (AI) 正在应用于智能能源系统，以处理该领域的海量复杂数据并做出明智及时的决策。然而，人工智能缺乏可解释性和可治理性是利益相关者的主要担忧，阻碍了人工智能在能源领域的快速应用。本文回顾了智能能源系统中人工智能的可解释性和治理。我们从 Scopus 数据库中收集了 3,568 篇相关论文，自动发现能源领域人工智能治理的 15 个参数或主题，并通过回顾 150 多篇论文并提供研究的时间进展来阐述研究前景。发现参数或主题的方法基于“深度新闻”，这是我们基于数据驱动的深度学习的大数据分析方法，可以自动发现和分析横断面多视角信息，从而实现更好的决策并开发更好的治理工具。研究结果表明，对能源系统中人工智能可解释性的研究是分段的，并且仅关注少数人工智能特征和能源系统问题。本文加深了我们对能源领域人工智能治理的认识，有望帮助政府、行业、学术界、能源产消者和其他利益相关者了解能源领域人工智能的前景，从而更好地设计、运营、利用和管理能源系统。