我在进行一个关于电影数据集的余弦相似度的项目,我对计算余弦相似度的公式感到困惑。
但我在网上搜索时,发现有些文章显示分母是这样的形式:sqrt(A1^2+B1^2) * sqrt(A2^2+B2^2) * … * sqrt(Ai^2+Bi^2)
我很困惑,它们有什么区别?哪一个是正确的,还是它们都正确?
回答:
你图片上的那个公式是正确的。在二维情况下,它是基于余弦定理推导出来的,该定理将三角形的一条边的长度与另外两条边的长度以及对边c的角度theta相关联:
c^2==a^2+b^2-2*b*c(cos(theta))
你可以通过多种方式证明这一点,一个很好的验证方法是知道当cos(gamma)==0
(边a和b正交)时,你会得到勾股定理。要得到图片上的公式,你需要将其转换为解析几何(向量)
norm(A-B)^2==norm(A)^2+norm(B)^2−2*norm(A)*norm(B)*cos(theta)
通过使用norm(A-B)^2
的定义(A-B)*(A-B)
并展开,我们得到
norm(A-B)^2 ==norm(A)^2+norm(B)^2-2*A*B
因此,将两个表达式等同,并进行消元,得出
norm(A)*norm(B)*cos(theta) = A*B
这正是你定义中的(重新排列的)公式(以及norm(v) = sqrt(v*v)
)。在n维情况下,你可以证明这是有效的,因为旋转欧几里得空间会保持范数和内积不变,并且由向量张成的二维平面只是xy平面的旋转。
一个很好的健全性检查是,再次验证正交性会产生0的余弦值,并且余弦值在0和1之间(这是柯西-施瓦茨不等式)。
更新:在你评论中提到的例子中,你可以通过运行博客中的代码来查看结果
import sklearn.metrics.pairwise as pwprint(pw.cosine_similarity([[4,3]],[[5,5]]))print(pw.cosine_similarity([[4,3,5]],[[5,5,1]]))
请注意,如果你运行:
from sklearn.metrics.pairwise import pairwise_distancesprint(pairwise_distances([[4,3,5]],[[5,5,1]],metric='cosine'))
你会得到0.208而不是0.792,这是因为pairwise_distance使用余弦度量时给出的是1-cos(theta)
(请注意0.208 + 0.792
等于1)。你进行这种转换是因为在讨论距离时,你希望从一个点到自身的距离为0。