机构名称：
¥ 1.0
气候科学，尤其是气候人工智能（AI），不能与道德社会问题（例如资源获取，保护和公共卫生）脱节。明显的非政治选择（例如，处理用于平等训练AI模型的所有数据点）可以导致模型在数据密度和质量较高的区域中更准确；这些通常与世界北部和西部地区一致（例如[1，2]）。在获取数据和计算资源的访问中的不平等加剧了社区之间的差距，以理解气候变化的影响和对缓解和适应的行动，通常会损害那些受影响最大的人（例如，[3，4]）。尽管这些问题不是AI的独有性，但AI模型的开发和运作，AI模型结果的发展和运作方面的广泛不透明度以及AI领域的快速发展进一步增加了资源不同的各方之间权力和代理的不平等。这为气候科学家创造了一个机会，可以重新考虑道德在其研究方法中的作用。气候科学家可以通过多种方式与社会互动。在这里，我们关注科学研究的过程，确定一些良好的实践来构建可信赖和负责任的模型，然后提供一些资源。在创建和培训模型中，我们鼓励研究人员认识到科学不能纯粹是“客观的”，并且先验，数据和指标的选择都带有偏见（例如[5]）。解决或消除它们是不现实的，因为对“更好”模型或结果的解释高度取决于用户的特定目标。因此，至关重要的是，对所做的假设，所使用的算法和超参数的假设以及评估指标和过程至关重要，理想情况下，也可以根据可重复的科学原理（例如[6]）提供数据和代码。在评估和介绍统计或机器学习模型的性能时，考虑可能的故障模式可以是检查系统行为的有用镜头。良好的起点是[7]提出的分类学，该分类法考虑了设计，实施和通信中的缺陷，特别是针对气候科学的缺陷，该列表由[8]汇编而成。与来自气候域的AI模型特别相关的故障模式包括分布偏移的鲁棒性；例如，对于接受历史数据训练的模型，很难预测它们在气候变化带来的看不见条件下的表现。通过考虑故障模式引起的良好实践可能包括通过模拟来量化预期模型性能的努力，定义模型的预期适用性范围，并考虑如何在定义评估策略和验证
气候AI中的道德：从理论到实践
主要关键词
相关文件推荐
