我正在使用scikit对垃圾邮件/正常邮件数据进行逻辑回归分析。X_train是我的训练数据,y_train是标签(’spam’或’ham’),我这样训练我的LogisticRegression模型:
classifier = LogisticRegression()classifier.fit(X_train, y_train)
如果我想获取10折交叉验证的准确率,我只需这样写:
accuracy = cross_val_score(classifier, X_train, y_train, cv=10)
我以为通过简单地添加一个参数也可以计算精确度和召回率,像这样:
precision = cross_val_score(classifier, X_train, y_train, cv=10, scoring='precision')recall = cross_val_score(classifier, X_train, y_train, cv=10, scoring='recall')
但这导致了一个ValueError
错误:
ValueError: pos_label=1 is not a valid label: array(['ham', 'spam'], dtype='|S4')
这是与数据有关的问题(我应该将标签二值化吗?)还是cross_val_score
函数发生了变化?
提前感谢!
回答:
为了计算召回率和精确度,数据确实需要进行二值化处理,像这样:
from sklearn import preprocessinglb = preprocessing.LabelBinarizer()lb.fit(y_train)
进一步来说,我很惊讶在计算准确率时不需要对数据进行二值化:
accuracy = cross_val_score(classifier, X_train, y_train, cv=10)
这是因为准确率公式并不真正需要关于哪个类别被视为正类或负类的信息:(TP + TN) / (TP + TN + FN + FP)。我们确实可以看到TP和TN是可以互换的,但对于召回率、精确度和F1值来说则不是这样。