如何在scikit-learn
中使用N
个二元分类器构建一个元分类器,当其中任何一个分类器返回1
时,该元分类器也返回1
?
目前我尝试了VotingClassifier
,但它缺少我所需的逻辑,无论是voting
设置为hard
还是soft
。而Pipeline
似乎更倾向于顺序计算。
我可以自己编写逻辑,但我想知道是否有内置的解决方案?
回答:
内置选项只有soft
和hard
投票。正如你提到的,我们可以创建一个自定义函数来实现这个使用OR
逻辑的元分类器,基于这里的源代码。这个自定义元分类器也可以融入pipeline
中。
from sklearn.utils.validation import check_is_fittedclass CustomMetaClassifier(VotingClassifier): def predict(self, X): """ 预测X的类标签。 参数 ---------- X : {array-like, sparse matrix}, shape = [n_samples, n_features] 输入样本。 返回 ---------- maj : array-like, shape = [n_samples] 预测的类标签。 """ check_is_fitted(self, 'estimators_') maj = np.max(eclf1._predict(X), 1) maj = self.le_.inverse_transform(maj) return maj
>>> import numpy as np>>> from sklearn.linear_model import LogisticRegression>>> from sklearn.naive_bayes import GaussianNB>>> from sklearn.ensemble import RandomForestClassifier, VotingClassifier>>> clf1 = LogisticRegression(solver='lbfgs', multi_class='multinomial',... random_state=1)>>> clf2 = RandomForestClassifier(n_estimators=50, random_state=1)>>> clf3 = GaussianNB()>>> X = np.array([[-1, -1], [-2, -1], [-3, -2], [1, 1], [2, 1], [3, 2]])>>> y = np.array([1, 1, 1, 2, 2, 2])>>> eclf1 = CustomMetaClassifier(estimators=[... ('lr', clf1), ('rf', clf2), ('gnb', clf3)])>>> eclf1 = eclf1.fit(X, y)>>> eclf1.predict(X)array([1, 1, 1, 2, 2, 2])