当我对我的数据集应用PCA时，第一主成分（PC1）仅解释了25%的变异，而第二主成分（PC2）解释了约22%的变异。

当我应用随机森林或任何其他机器学习模型时，我是否仍应基于PCA输出否定一些轻度相关的变量？还是只有当PC1和PC2解释了数据集约80%的变异时才这样做？

回答：

我不确定我是否完全理解了你的问题。不管怎样，我猜你是想使用PCA来提升模型的性能：因此，你应该尝试不同的值，并保留在验证集上最大化所考虑指标的成分数量（可能通过交叉验证），基本上与你获得的解释方差的实际数值无关。后者可以为你提供关于正确成分数量的良好见解，但对于监督学习目的，尝试并根据你的具体数据集进行选择要合理得多。

如果你指的是根据PCA的结果是否可以丢弃原始特征，答案是绝对不可以。主成分“存在”于与原始特征不同的空间中，你无法直接判断每个成分由哪些特征组成。如果你想从PCA中获得一些成果，你必须在成分上进行后续的训练/预测，并忘记原始特征。