sklearn logloss参数normalize功能

一个相当简单的问题:sklearn的log_loss度量中的参数”normalize”有什么作用?

根据文档:”normalize : bool, 可选(默认=True)如果为真,返回每个样本的平均损失。否则,返回所有样本损失的总和。” 我的理解是,这与是否包含N有关,True表示平均值,False表示总和:logloss = -1/N(每个案例损失的总和)log损失函数

如果是这样,优化其中一个与另一个没有区别,那么,为什么我们更喜欢一个而不是另一个呢?换句话说,设置这个参数的目的是什么?个人偏好吗?


回答:

虽然最小化f(x)和1/N f(x)是等价的,但在处理f(x) + alpha g(x)和1/N f(x) + alpha g(x)形式的函数时,常数的意义会发生变化,这在学习正则化逻辑回归时会发生,因此在第二种情况下,等效的alpha是1/N * 之前的alpha。这里没有“一种选择”,它完全取决于应用 – 有时平均值更适合(当你需要对样本大小不变时),有时是总和。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注