我在使用以下方程求解局部权重时遇到了奇异矩阵错误
Ci*Wi = 1
其中Ci是基于点i的邻居构建的局部协方差矩阵,wi是用于从其邻居构建点i的权重向量。
我使用的是IRIS数据集,邻居数量为20。
回答:
对于那些在这里寻找答案的人来说,
这个问题产生的原因是权重集中在少数成员上。少数邻居贡献很大,而其他邻居的贡献为零。添加一个正则化项来惩罚较大的权重。如果你的协方差矩阵是C,正则化值为0.0005,I是与C相同阶的单位矩阵,使用下面的公式更新C
C = C + 0.0005*I(n)