对内存需求的显着影响,导致需要更少的硬件,因为该模型可以挤压成较少的GPU,这是提高能量效率的最具影响力的方法之一。●硬件:专用AI硬件(例如GPU或TPU)可以加速培训和推理。通用硬件(例如CPU)可以具有更大的灵活性,但在处理机器学习工作负载方面通常会很慢。在选择硬件时,应仔细考虑使用硬件,诸如内存能力,处理能力和对不同数据精度格式的支持。这是一个双层单词:虽然它建议了某些模型和功能优化某些硬件的机会,但它可能意味着尝试在其他硬件上运行模型或流程,例如,因为最佳硬件不可用或过于昂贵,导致效率降低。,45 46
主要关键词