根据下面的代码,我正在为特定的分类器计算召回率和精确率得分
clf = GradientBoostingClassifier(n_estimators=20)clf.fit(X_train,y_train)pred=clf.predict(X_test)precision_recall_fscore_support(y_test, pred, average='micro' or, 'weighted', or, 'macro', or 'none')
然后结果将会是
(0.8861803737814977, 0.8714028776978417, 0.8736586610015085, None)(0.8714028776978417, 0.8714028776978417, 0.8714028776978417, None)(0.8576684989847967, 0.883843537414966, 0.8649539913120651, None)(array([0.95433071, 0.76100629]), array([0.84166667, 0.92602041]),array([0.89446494, 0.83544304]),array([720, 392]))
但如果我使用以下方法计算
clf = GradientBoostingClassifier()skf = StratifiedKFold(n_splits=10)param_grid = {'n_estimators':range(20,23)}grid_search = GridSearchCV(clf, param_grid, scoring=scorers, refit=recall_score, cv=skf, return_train_score=True, n_jobs=-1)results = pd.DataFrame(grid_search_clf.cv_results_)
那么我将得到以下表格
你可以看到,平均召回率和精确率得分与之前步骤中计算的值有很大不同,而这两者使用的是相同的数据和相同的参数。我想知道是否有人能帮助我找出我做错了什么
回答:
嗯,这些指标是在不同的东西上计算的。
precision_recall_fscore_support(y_test, pred)
显示的是测试数据上的指标值。
但当你使用GridSearchCV时,训练数据会根据定义的cv被分成训练和测试部分,指标是在这个测试数据(训练数据的子集)上计算的。然后,这些指标会在各折上进行平均。