我有一组特征向量矩阵,每个矩阵包含200个特征,这些特征向量在矩阵内按时间顺序相关。我希望将每个矩阵简化为一个单一的、有意义的向量。我已经对矩阵应用了主成分分析(PCA),以将其维度降低到具有高方差的一维,并且正在考虑将矩阵的各行连接起来,形成一个特征向量来总结数据。
这种方法是否合理,还是有更好的方法来实现这一点?
回答:
所以你有一个n x 200的特征矩阵,其中n是样本数量,每个样本有200个特征,并且每个特征与其他特征在时间上是相关的?还是说你有单独的特征矩阵,每个时间点一个,你希望对每个单独的特征矩阵运行PCA,以找到那个时间点的单一特征向量,然后将这些向量连接起来?
在第二种情况下,PCA似乎更有用。
虽然这是可行的,但这可能不是最佳方法,因为你通过合并不同时间的特征会失去时间敏感性。即使你最终的特征矩阵中的每个特征代表不同的时间,大多数分类器也无法学习到特征2跟随特征1等的事实。因此,通过这种方式,你会失去自然的时间顺序。
如果你关心这些特征之间的时间关系,你可能需要考虑使用递归神经网络(RNN),这种网络允许你将t-1时刻的信息输入到节点中,同时输入当前时刻t的特征。从某种意义上说,它们学习了t-1和t特征之间的关系,这将帮助你保持时间顺序。有关解释,请参见:http://karpathy.github.io/2015/05/21/rnn-effectiveness/
如果你不关心时间,只想将所有东西组合在一起,那么是的,PCA将有助于减少你的特征数量。最终,这取决于你认为哪种信息对你的问题更相关。