具有成本效益的AI图像生成AWS Trainium和AWS推理的PixArt-σ推理

这篇文章是我们将在Trainium和推断供电的实例上运行多个扩散变压器的系列中的第一篇文章。在这篇文章中,我们展示了如何将Pixart-Sigma部署到训练和推断供电的实例中。

来源:亚马逊云科技 _机器学习
Pixart-Sigma是一个扩散变压器模型,能够以4K分辨率以图像生成。该模型通过数据集和架构改进显示了与上一代Pixart模型(如Pixart-Alpha和其他扩散模型)相比的显着改进。 AWS Trainium和AWS推理是专门建造的AI芯片,以加速机器学习(ML)工作量,使其非常适合于具有成本效益的大型生成模型。通过使用这些AI芯片,您可以在使用扩散变压器模型(如Pixart-Sigma)进行推断时实现最佳性能和效率。此帖子是系列中的第一篇,我们将在Trainium和Pelectia-Power实例上运行多个扩散变压器。 In this post, we show how you can deploy PixArt-Sigma to Trainium and Inferentia-powered instances.Solution overviewThe steps outlined below will be used to deploy the PixArt-Sigma model on AWS Trainium and run inference on it to generate high-quality images.Step 1 – Pre-requisites and setupStep 2 – Download and compile the PixArt-Sigma model for AWS TrainiumStep 3 – Deploy the model on AWS Trainium生成ImagessTep 1 - 先决条件和Setupto开始,您将需要在TRN1,TRN2或INF2主机上设置开发环境。完成以下步骤:使用神经元Dlami启动TRN1.32XLARGE或TRN2.48XLARGE实例。有关如何入门的说明,请参考使用Neuron Multi-Framework Dlami在Ubuntu 22上开始使用Neuron。有关设置Jupyter服务器的说明,请参阅以下用户指南。Cloneaws-neuron-samples github存储库:git clone https://github.com/aws./aws-aws-neuron/aws-neuron/aws-neuron-samples.git AWS-NEURON示例/Torch-neuronx/推断提供的示例脚本旨在在TRN2实例上运行,但是您可以使用Minima