我正在尝试使用PCA对MNIST数据集进行降维。技巧在于,我需要在降维的同时保留一定百分比的方差(比如80%)。我使用的是Scikit-learn。我尝试使用pca.get_variance ratio,但它给出的值相同,只是小数点位置不同,比如9.7或0.97或0.097。我也试过pca.get_variance(),但我认为这不是答案。我的问题是如何确保在降维的同时保留一定百分比的方差?
回答:
如果你在应用PCA时没有传递n_components
参数,那么PCA对象的explained_variance_ratio_
属性将为你提供所需的信息。这个属性表示与相应特征向量相关的总方差的分数。以下是直接从当前稳定版PCA文档中复制的示例:
>>> import numpy as np>>> from sklearn.decomposition import PCA>>> X = np.array([[-1, -1], [-2, -1], [-3, -2], [1, 1], [2, 1], [3, 2]])>>> pca = PCA(n_components=2)>>> pca.fit(X)PCA(copy=True, n_components=2, whiten=False)>>> print(pca.explained_variance_ratio_) [ 0.99244... 0.00755...]
在你的情况下,如果你对explained_variance_ratio_
属性应用np.cumsum
,那么你需要保留的主成分数量对应于np.cumsum(pca.explained_variance_ratio_)
中第一个大于或等于0.8的元素的位置。