详细内容或原文请订阅后点击阅览
让人工智能成为可能的硬件
CPU、GPU、TPU 和 NPU 《使人工智能成为可能的硬件》一文首先出现在《迈向数据科学》上。
来源:走向数据科学人工智能,我们经常将其描述为一场软件革命,确实如此!从神经网络和 Transformer 的突破到大型语言模型,我们很容易认为这些智能算法促成了我们近年来所看到的进步。
但今天,我想阐明现代人工智能如何只有通过硬件的进步才能成为可能。
训练大型语言模型涉及在大型数据集上执行数万亿次数学运算。根据文本提示生成图像需要在短短几秒钟内进行数十亿次计算。在智能手机上运行人工智能需要以最小的功耗快速完成计算。
传统的计算机硬件并不是为此而设计的。但随着人工智能模型变得越来越大,对计算的要求越来越高,需要新的硬件架构来运行这些模型。如今,CPU、GPU、TPU 和 NPU 在人工智能领域都发挥着重要作用。
在本文中,我们将探索为现代人工智能提供动力的硬件,并解释为什么不同的任务需要不同的处理器。
为什么人工智能需要专用硬件
为了理解为什么人工智能需要特殊的硬件,让我们退一步思考一下机器学习过程中会发生什么。训练神经网络的核心涉及对一组数字重复执行数学运算。大多数这些运算涉及矩阵乘法和张量乘积,必须执行数百万或数十亿次。
这与其他软件应用程序有很大不同。例如,网络浏览器花费大量时间响应用户输入和加载资源。另一方面,人工智能应用程序通常涉及对大量数据应用相同的操作。
因此,为了让人工智能表现良好,它需要同时执行许多计算。对并行计算的需求导致了针对人工智能优化的专用硬件的开发。
那么,我们来谈谈硬件吧!
