我正在使用SGDClassifier
,设置loss function = "hinge"
。但铰链损失函数不支持类标签的概率估计。
我需要概率来计算roc_curve
。如何在不使用来自svm的SVC的情况下获取SGDClassifier中铰链损失的概率?
我看到有人提到使用CalibratedClassifierCV来获取概率,但我从未使用过它,也不知道它是如何工作的。
非常感谢您的帮助。谢谢
回答:
严格来说,这是不可能的。
支持向量机分类器是非概率性的:它们使用超平面(在二维中是一条线,在三维中是一个平面,依此类推)将点分成两个类别中的一个。点仅通过它们所在的超平面的一侧来定义,这直接形成了预测。
这与概率分类器(如逻辑回归和决策树)形成对比,后者为每个点生成一个概率,然后将其转换为预测。
CalibratedClassifierCV
是一种元估计器;要使用它,只需将基础估计器的实例传递给它的构造函数,这样就可以工作了:
base_model = SGDClassifier()model = CalibratedClassifierCV(base_model)model.fit(X, y)model.predict_proba(X)
它的作用是执行内部交叉验证以创建概率估计。请注意,这相当于sklearn.SVM.SVC
所做的工作。