我表达得不太好,但我想问的是如何在使用分类算法进行预测时显示置信度的百分比?我使用的是Scikit-learn。
假设我想根据纹理和重量来识别某物是苹果还是橙子:
#特征: 0 = "凹凸" 1 = "光滑"#标签: 0 = 苹果 1 = 橙子features = [[140, 1], [130, 1], [150, 0], [170, 0]]labels = [0, 0, 1, 1]# 在此实例中我们将使用决策树clf = tree.DecisionTreeClassifier()clf = clf.fit(features, labels)print(clf.predict([[160, 0]]))
所以在预测[160, 0]
时,根据模式,我们和计算机会预测这最可能是橙子。在Scikit-learn中,有没有一种方法可以预测计算机返回1或0的信心程度?当我在特征向量中有更多参数时,这一点尤其重要。
回答:
是的。
只需使用predict_proba(X)
函数(而不是predict()
)。
probability = clf.predict_proba([[160, 0]])
Scikit-learn中的某些分类器能够做到这一点,而其他分类器则不能。
在DecisionTreeClassifier
的情况下,当要求给定类的概率时,模型会给出训练集中在特定“叶子”中属于相同类的元素的比例。
决策树中的叶子是一组代表树中路径的条件(规则)。
例如,对于示例[0, 160]
,它们表示[x1, x2]
,规则可能是
if x1 < 10: if x2 > 150: # 在我们的训练集中的`n`个例子中,有100个符合此规则集。其中75个是苹果,25个是橙子 - 因此: probability = [0.75, 0.25] # P(苹果) = 0.75, P(橙子) = 0.25
当然,在二元分类的情况下(两个类别),Scikit会返回两者,但你实际上只需要其中一个,因为这些概率是互补的(1 – 0.75 = 0.25)。
查看这里的文档以了解更多信息。
希望这对你有帮助。