为什么逻辑回归被称为回归?

据我所知,线性回归预测的结果可以是连续值,而逻辑回归预测的结果是离散的。在我看来,逻辑回归更像是分类问题。那么,为什么它被称为回归呢?

还有一个相关问题:线性回归和逻辑回归有什么区别?


回答:

线性回归和逻辑回归之间存在严格的联系。

在线性回归中,你在寻找 ki 参数:

h = k0 + Σ ki ˙ Xi = Kt ˙ X

在逻辑回归中,你有相同的目标,但方程是:

h = g(Kt ˙ X)

其中 gSigmoid 函数

g(w) = 1 / (1 + e-w)

所以:

h = 1 / (1 + e-Kt ˙ X)

你需要根据数据来拟合 K。

假设是一个二分类问题,输出 h 是示例 x 在分类任务中被判定为正例的估计概率:

P(Y = 1) = 1 / (1 + e-Kt ˙ X)

当概率大于0.5时,我们可以预测为“匹配”。

当概率大于0.5时:

g(w) > 0.5

这在以下情况下为真:

w = Kt ˙ X ≥ 0

超平面:

Kt ˙ X = 0

是决策边界。

总结:

  • 逻辑回归是一种广义线性模型,使用与线性回归相同的基本公式,但它是针对分类结果的概率进行回归的。

这是一个非常简略的版本。你可以在 这些视频 中找到简单的解释(Andrew Ng 的《机器学习》第三周)。

你也可以查看 http://www.holehouse.org/mlclass/06_Logistic_Regression.html 以获取课程笔记。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注