据我所知,线性回归预测的结果可以是连续值,而逻辑回归预测的结果是离散的。在我看来,逻辑回归更像是分类问题。那么,为什么它被称为回归呢?
还有一个相关问题:线性回归和逻辑回归有什么区别?
回答:
线性回归和逻辑回归之间存在严格的联系。
在线性回归中,你在寻找 ki 参数:
h = k0 + Σ ki ˙ Xi = Kt ˙ X
在逻辑回归中,你有相同的目标,但方程是:
h = g(Kt ˙ X)
其中 g
是 Sigmoid 函数:
g(w) = 1 / (1 + e-w)
所以:
h = 1 / (1 + e-Kt ˙ X)
你需要根据数据来拟合 K。
假设是一个二分类问题,输出 h
是示例 x
在分类任务中被判定为正例的估计概率:
P(Y = 1) = 1 / (1 + e-Kt ˙ X)
当概率大于0.5时,我们可以预测为“匹配”。
当概率大于0.5时:
g(w) > 0.5
这在以下情况下为真:
w = Kt ˙ X ≥ 0
超平面:
Kt ˙ X = 0
是决策边界。
总结:
- 逻辑回归是一种广义线性模型,使用与线性回归相同的基本公式,但它是针对分类结果的概率进行回归的。
这是一个非常简略的版本。你可以在 这些视频 中找到简单的解释(Andrew Ng 的《机器学习》第三周)。
你也可以查看 http://www.holehouse.org/mlclass/06_Logistic_Regression.html 以获取课程笔记。