我在尝试使用sklearn训练模型时,希望更改决策阈值来训练模型。然而,我在Stack Overflow上找到的大多数结果都是关于测试集上的预测的。
回答:
在概率分类器的训练中(无论是scikit-learn还是其他任何框架),没有涉及阈值。
在推理时需要阈值来将概率预测转换为硬标签,这反过来又是在计算诸如准确率、精确率、召回率等业务指标所必需的。但这些指标在模型训练中没有任何作用,在模型训练中唯一重要的量(并在模型拟合期间被最小化)是损失。而在损失的计算中不涉及任何阈值。
换句话说,硬类别预测(仅此需要阈值)在模型训练中绝对没有任何作用,因此在训练过程中根本不涉及阈值。
我建议阅读我以下回答,以澄清损失和准确率之间的关系(尽管标题如此,但它们并不特定于Keras,原则上适用于任何二元分类问题):
还引用了Cross Validated线程中的内容降低分类概率阈值:
当你为新样本的每个类别输出一个概率时,你的练习的统计部分就结束了。选择一个阈值,超出该阈值你将新观察分类为1而不是0,不再是统计的一部分。这是决策部分的一部分。