How Scaling to Zero Optimizes AI Infrastructure Costs
了解如何通过Clarifai的Compute编排来降低AI基础架构成本,从而根据需求自动扩展资源,同时优化性能。
Normal Equation Algorithm for minimizing cost J
梯度下降提供了一种最小化 J 的方法。第二种方法,这次明确地执行最小化,而不诉诸迭代算法。在“正则方程”方法中,我们将通过明确取其对 θj 的导数并将其设置为零来最小化 J。这使我们能够在不进行迭代的情况下找到最佳 theta。正态方程公式如下:\theta = (X^T X)^{-1}X^T yθ=(XTX)−1XTy使用正态方程不需要进行特征缩放。以下是梯度下降和正态方程的比较:梯度下降正态方程需要选择alpha不需要选择alpha需要多次迭代不需要迭代O (kn^2kn2)O (n^3n3),需要计算X^TX的逆XTX在n很大时效果很好如果n非常大则速度很慢使用正态方程,计算逆的复杂度为