堆叠分类器的分类器数量是否必须等于训练/测试数据集的列数?

我正在尝试解决一个二分类任务。训练数据集包含9个特征,经过特征工程后,我得到了14个特征。我想使用mlxtend.classifier.StackingClassifier来实现堆叠分类器方法,使用4个不同的分类器,但在尝试预测测试数据集时,我遇到了错误:ValueError: query data dimension must match training data dimension

%%timemodels=[KNeighborsClassifier(weights='distance'),        GaussianNB(),SGDClassifier(loss='hinge'),XGBClassifier()]calibrated_models=Calibrated_classifier(models,return_names=False)meta=LogisticRegression()stacker=StackingCVClassifier(classifiers=calibrated_models,meta_classifier=meta,use_probas=True).fit(X.values,y.values)

备注:在我的代码中,我只是编写了一个函数来返回一个包含校准分类器的列表 StackingCVClassifier,我已经检查过这不是导致错误的原因

备注2:我已经尝试从头开始构建一个堆叠器,结果相同,所以我以为是我的堆叠器有问题

from sklearn.linear_model import LogisticRegressiondef StackingClassifier(X,y,models,stacker=LogisticRegression(),return_data=True):  names,ls=[],[]  predictions=pd.DataFrame()  for model in models:    names.append(str(model)[:str(model).find('(')])  for i,model in enumerate(models):    model.fit(X,y)    ls=model.predict_proba(X)[:,1]    predictions[names[i]]=ls  if return_data:    return predictions  else:    return stacker.fit(predictions,y)

您能帮助我理解堆叠分类器的正确使用方法吗?

enter image description here

编辑: 这是我用于校准分类器的代码。这个函数接受一个包含n个分类器的列表,并对每个分类器应用 sklearn fucntion CalibratedClassifierCV,然后返回一个包含n个校准分类器的列表。你可以选择返回一个zip列表,因为这个函数主要是用来与 sklearn's VotingClassifier 一起使用

def Calibrated_classifier(models,method='sigmoid',return_names=True):  calibrated,names=[],[]  for model in models:    names.append(str(model)[:str(model).find('(')])  for model in models:    clf=CalibratedClassifierCV(base_estimator=model,method=method)    calibrated.append(clf)  if return_names:    return zip(names,calibrated)  else:     return calibrated

回答:

我已经用Iris数据集尝试了你的代码。运行正常,我认为问题出在你的测试数据的维度上,而不是校准问题。

from sklearn.linear_model import LogisticRegressionfrom mlxtend.classifier import StackingCVClassifierfrom sklearn import datasetsX, y = datasets.load_iris(return_X_y=True)models=[KNeighborsClassifier(weights='distance'),        SGDClassifier(loss='hinge')]calibrated_models=Calibrated_classifier(models,return_names=False)meta=LogisticRegression( multi_class='ovr')stacker = StackingCVClassifier(classifiers=calibrated_models,                               meta_classifier=meta,use_probas=True,cv=3).fit(X,y)

预测

stacker.predict([X[0]])#array([0])

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注