随着深度学习网络和训练数据的复杂性呈指数级增长，人工智能研究人员的计算需求不断增加。过去的训练仅限于一个或几个 GPU，通常是在工作站中进行。如今的训练通常使用数十个、数百个甚至数千个 GPU 来评估和优化不同的模型配置和参数。此外，组织有多个人工智能研究人员，他们都需要同时训练多个模型。如此大规模的系统对人工智能研究人员来说可能很新奇，但这些设备传统上一直是世界上最重要的研究机构和学术界的标志，推动了几乎所有类型的科学研究的创新。