我想在SciKit-Learn中创建一个自定义评分器,以便将其传递给GridSearchCV,根据对特定类别的预测准确性来评估模型性能。
假设我的训练数据包含属于三个类别之一的数据点:
‘dog’, ‘cat’, ‘mouse’
# 创建分类器:clf = ensemble.RandomForestClassifier()# 设置要探索的参数:param_dist = { 'n_estimators':[500, 1000, 2000, 4000], "criterion": ["gini", "entropy"], 'bootstrap':[True, False] }# 构建网格搜索search = GridSearchCV(clf,\ param_grid=param_dist,\ cv=StratifiedKFold(y, n_folds=10),\ scoring=my_scoring_function)# 执行搜索X = training_datay = ground_truthssearch.fit(X, y)
有没有办法构建my_scoring_function,使其只返回对’dog’类别的预测准确性?make_scorer函数似乎受到限制,因为它只处理每个数据点的真实标签和预测类别。
非常感谢您的帮助!
回答:
我错过了sklearn文档中的一个部分。
您可以创建一个函数,该函数需要以下输入:模型、x_test、y_test,并输出一个介于0和1之间的值(其中1是最佳),该值可以用作优化函数。
只需创建该函数,应用model.predict(x_test),然后使用诸如准确率之类的指标来分析结果即可。