我有一个训练数据集,矩阵形式的维度为5000 x 3027(CIFAR-10数据集)。使用numpy中的array_split,我将其分成了5个不同的部分,我想选择其中一个部分作为交叉验证折。然而,当我使用类似XTrain[[Indexes]]的操作时,其中indexes是一个像[0,1,2,3]这样的数组,这样做会得到一个维度为4 x 1000 x 3027的3D张量,而不是一个矩阵。我如何将“4 x 1000”压缩成4000行,得到一个4000 x 3027的矩阵?
for fold in range(len(X_train_folds)): indexes = np.delete(np.arange(len(X_train_folds)), fold) XTrain = X_train_folds[indexes] X_cv = X_train_folds[fold] yTrain = y_train_folds[indexes] y_cv = y_train_folds[fold] classifier.train(XTrain, yTrain) dists = classifier.compute_distances_no_loops(X_cv) y_test_pred = classifier.predict_labels(dists, k) num_correct = np.sum(y_test_pred == y_test) accuracy = float(num_correct/num_test) k_to_accuracy[k] = accuracy
回答:
我建议使用scikit-learn包。它已经包含了许多常见的机器学习工具,例如K折交叉验证生成器:
>>> from sklearn.cross_validation import KFold>>> X = # 你的数据 [样本 x 特征]>>> y = # 真实标签>>> kf = KFold(X.shape[0], n_folds=5)
然后,遍历kf
:
>>> for train_index, test_index in kf: X_train, X_test = X[train_index], X[test_index] y_train, y_test = y[train_index], y[test_index] # 做一些操作
上述循环将执行n_folds
次,每次使用不同的训练和测试索引。