为什么GridSearchCV不能给出最佳分数? – Scikit Learn

我有一个包含158行和10列的数据集。我尝试构建一个多元线性回归模型,并试图预测未来的值。

我使用了GridSearchCV来调整参数。

这是我的GridSearchCV和回归函数:

def GridSearch(data):    X_train, X_test, y_train, y_test = cross_validation.train_test_split(data, ground_truth_data, test_size=0.3, random_state = 0)        parameters = {'fit_intercept':[True,False], 'normalize':[True,False], 'copy_X':[True, False]}        model = linear_model.LinearRegression()        grid = GridSearchCV(model,parameters)        grid.fit(X_train, y_train)    predictions = grid.predict(X_test)        print "Grid best score: ", grid.best_score_    print "Grid score function: ", grid.score(X_test,y_test)

这段代码的输出是:

Grid best score: 0.720298870251

Grid score function: 0.888263112299

我的问题是best_score_score函数有什么区别?

score函数怎么可能比best_score函数更好?

提前感谢。


回答:

best_score_是交叉验证中的最佳分数。也就是说,模型在训练数据的部分上进行拟合,分数是通过预测剩余的训练数据计算得出的。这是因为你将X_trainy_train传递给了fit;因此,fit过程对你的测试集一无所知,只知道你的训练集。

模型对象的score方法会对你提供的数据进行评分。你传递了X_testy_test,所以这个调用计算的是在测试集上拟合(即调整后的)模型的分数。

简而言之,这两个分数是在不同的数据集上计算的,所以它们不同并不 surprising。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注