在解决一个机器学习问题时,我在训练数据上应用了PCA,并使用sklearn对训练数据进行了.transform操作。在观察了方差后,我只保留了变换后数据中方差较大的那些列。然后,我使用RandomForestClassifier训练了模型。现在,我感到困惑:如何将训练好的模型应用于测试数据,因为测试数据的列数与用于随机森林的保留变换数据的列数不同?
回答:
如果这是你想要的,这里是一种做法… 理想情况下,你应该在测试和训练数据中使用相同数量的主成分… 否则,保留集的目的就失去了意义。
pca = PCA(n_components=20)train_features = pca.fit_transform(train_data)rfr = sklearn.RandomForestClassifier(n_estimators = 100, n_jobs = 1, random_state = 2016, verbose = 1, class_weight='balanced',oob_score=True)rfr.fit(train_features)test_features = pca.transform(test_data)rfr.predict(test_features)