我正在尝试解决一个二分类任务。训练数据集包含9个特征,经过特征工程后,我得到了14个特征。我想使用mlxtend.classifier.StackingClassifier来实现堆叠分类器方法,使用4个不同的分类器,但在尝试预测测试数据集时,我遇到了错误:ValueError: query data dimension must match training data dimension
%%timemodels=[KNeighborsClassifier(weights='distance'), GaussianNB(),SGDClassifier(loss='hinge'),XGBClassifier()]calibrated_models=Calibrated_classifier(models,return_names=False)meta=LogisticRegression()stacker=StackingCVClassifier(classifiers=calibrated_models,meta_classifier=meta,use_probas=True).fit(X.values,y.values)
备注:在我的代码中,我只是编写了一个函数来返回一个包含校准分类器的列表 StackingCVClassifier
,我已经检查过这不是导致错误的原因
备注2:我已经尝试从头开始构建一个堆叠器,结果相同,所以我以为是我的堆叠器有问题
from sklearn.linear_model import LogisticRegressiondef StackingClassifier(X,y,models,stacker=LogisticRegression(),return_data=True): names,ls=[],[] predictions=pd.DataFrame() for model in models: names.append(str(model)[:str(model).find('(')]) for i,model in enumerate(models): model.fit(X,y) ls=model.predict_proba(X)[:,1] predictions[names[i]]=ls if return_data: return predictions else: return stacker.fit(predictions,y)
您能帮助我理解堆叠分类器的正确使用方法吗?
编辑: 这是我用于校准分类器的代码。这个函数接受一个包含n个分类器的列表,并对每个分类器应用 sklearn fucntion CalibratedClassifierCV
,然后返回一个包含n个校准分类器的列表。你可以选择返回一个zip列表,因为这个函数主要是用来与 sklearn's VotingClassifier
一起使用
def Calibrated_classifier(models,method='sigmoid',return_names=True): calibrated,names=[],[] for model in models: names.append(str(model)[:str(model).find('(')]) for model in models: clf=CalibratedClassifierCV(base_estimator=model,method=method) calibrated.append(clf) if return_names: return zip(names,calibrated) else: return calibrated
回答:
我已经用Iris数据集尝试了你的代码。运行正常,我认为问题出在你的测试数据的维度上,而不是校准问题。
from sklearn.linear_model import LogisticRegressionfrom mlxtend.classifier import StackingCVClassifierfrom sklearn import datasetsX, y = datasets.load_iris(return_X_y=True)models=[KNeighborsClassifier(weights='distance'), SGDClassifier(loss='hinge')]calibrated_models=Calibrated_classifier(models,return_names=False)meta=LogisticRegression( multi_class='ovr')stacker = StackingCVClassifier(classifiers=calibrated_models, meta_classifier=meta,use_probas=True,cv=3).fit(X,y)
预测
stacker.predict([X[0]])#array([0])