点积背后的几何：单位向量、投影和直觉

本文是三部分中的第一部分。每个部分都是独立的，因此您无需阅读其他部分即可理解它。

点积是机器学习中最重要的运算之一 - 但如果没有正确的几何基础，就很难理解。在第一部分中，我们构建这些基础：

·单位向量

·标量投影

·矢量投影

无论您是第一次学习线性代数的学生，还是想刷新这些概念，我都建议您阅读这篇文章。

事实上，我们将在这篇文章中介绍和解释点积，并且在下一篇文章中，我们将更深入地探讨它。

矢量投影部分作为可选奖励包含在内：有帮助，但对于理解点积不是必需的。

下一部分更深入地探讨点积：它的几何意义、它与余弦相似度的关系，以及为什么差异很重要。

最后一部分将这些想法与两个主要应用联系起来：推荐系统和 NLP。

单位向量

如果向量的大小为 1，则称为单位向量：

要在保持非零向量方向的同时去除非零向量的大小，我们可以对其进行归一化。归一化按以下因子缩放向量：

归一化向量𝐯^\large \mathbf{\hat{v}}是𝐯→\large \mathbf{\vec{v}}方向的单位向量：

符号 1.从现在开始，每当我们标准化向量或写入时，我们都会假设。该符号以及后面的符号也与以下文章相关。

此操作自然地将向量分为其大小和方向：

图1说明了这个想法： 和 指向同一方向，但大小不同。

单位向量的相似度

在二维中，所有单位向量都位于单位圆上（半径为 1，以原点为中心）。与 x 轴形成角度 θ 的单位向量具有坐标 (cos θ, sin θ)。

符号 2. 在本文中，θ 表示两个向量之间的最小角度，因此。

标量投影

计算

,