我有一组数据,任务是应用主成分分析(PCA)并保留一个成分,然后在散点图中可视化每个数据点的类别分布。
背景信息:我们处理的数据有三列。X是第1和第2列,y是第3列,包含每个数据点的类别信息。
暗示结果可视化应为一条水平线,但我没有看到这种情况。结果可视化是一个散点图,看起来像是正线性分布。
回答:
我看到你除了训练集外,还有一个测试集,但这并不是PCA的常规设置。PCA有多种应用,但主要之一是降维。降维是关于去除变量的,PCA通过改变数据的基并按它们线性解释的总体变化量(或相对变化量)进行排序来实现这一目的。由于这不需要测试数据,我们可以将其视为无监督机器学习,尽管许多人更愿意将其称为特征工程,因为它通常用于预处理数据,以提高在该预处理数据上训练的模型的性能。
为了举例说明,让我生成一个具有10个变量和1000个条目的随机数据集。对于1个成分拟合PCA变换,你选择了一个新的变量(特征),它是原始变量的线性组合,试图线性解释数据中的最大方差。正如你所说,这是一个数轴;作为一个快速且简单的图表,让我们只使用x轴作为新变量数组的索引,y轴作为变量的值。
你可以看到这产生了一个1000 x 1的数组,代表你的新变量。
如果你选择了n_components=2
,你会得到一个1000 x 2的数组,包含两个这样的变量。让我们看一下这个例子。这次我将两个主成分相互绘制,而不是使用单个主成分与其索引对比绘制。
现在,我随机生成的数据可能与你的数据集特性不同。如果你真的期望输出是一条线,那么我可以肯定地说,我的例子生成的轨迹非常不稳定。你会看到即使在二维情况下,数据似乎也没有按类别结构化,但这是你从随机数据中期望看到的。