我终于完成了我的第一个Python机器学习模型。最初,我会拿到一个数据集并进行如下分割:
# Split-out validation datasetarray = dataset.valuesX = array[:,2:242]Y = array[:,1]validation_size = 0.20seed = 7X_train, X_validation, Y_train, Y_validation = model_selection.train_test_split(X, Y, test_size=validation_size, random_state=seed)
可以看到,我会使用20%的数据进行验证。但是一旦模型构建完成,我希望用模型从未接触过的数据来验证/测试它。我是否可以简单地制作相同的X,Y数组并将validation_size设为1?我不知道如何在不重新训练模型的情况下进行测试。
models = []models.append(('LR', LogisticRegression()))models.append(('LDA', LinearDiscriminantAnalysis()))models.append(('KNN', KNeighborsClassifier()))models.append(('CART', DecisionTreeClassifier()))models.append(('NB', GaussianNB()))#models.append(('SVM', SVC()))# evaluate each model in turnresults = []names = []for name, model in models: kfold = model_selection.KFold(n_splits=12, random_state=seed) cv_results = model_selection.cross_val_score(model, X_train, Y_train, cv=kfold, scoring=scoring) results.append(cv_results) names.append(name) msg = "%s: %f (%f)" % (name, cv_results.mean(), cv_results.std()) print(msg)lr = LogisticRegression()lr.fit(X_train, Y_train)predictions = lr.predict(X_validation)print(accuracy_score(Y_validation, predictions))print(confusion_matrix(Y_validation, predictions))print(classification_report(Y_validation, predictions))
我可以将数据输入模型并返回预测结果,但如何用“新的”历史数据进行测试呢?
我可以像这样进行预测:lr.predict([[5.7,…,2.5]])
但我不确定如何通过测试数据集并获得混淆矩阵/分类报告。
回答:
[question]: 我可以将数据输入模型并返回预测结果,但如何用“新的”历史数据进行测试呢?
如果你查看我下面的项目,你可以看到我是如何训练和测试我的数据的。我个人永远不会测试我所有的数据。 https://github.com/wendysegura/Portland_Forecasting/blob/master/CSV_Police_Files/Random%20Forest%202012-2016.ipynb
scikit-learn模型类和方法的一般形式。
- model = base_models.AnySKLearnObject()
- 创建一个估计器类的实例
- model.fit(train_X, train_y)
- 训练你的模型;也称为“拟合数据”
- model.score(train_X, train_y)
- 使用训练数据和默认的评分方法评分你的模型(建议将来使用metrics模块)
- model.predict(test_X)
- 预测你的测试数据
- model.score(test_X, test_y)
- 使用你的测试数据评分你的模型
- model.predict(new_X)
- 为新数据集进行预测