支持向量机和拉格朗日乘数

要找到超平面,我们必须通过拉格朗日乘数解决优化问题。我读过许多教程,它们都说支持向量是唯一具有非零拉格朗日乘数的向量。

我想了解这是为什么,还是我们只是假设的?


回答:

这是因为从数学角度来看,超平面可以表示为(在线性情况下):

w = SUM_i^N y_i alpha_i x_i

因此,如果一些拉格朗日乘数(alpha_i)为零,它们对应的向量(x_i)对超平面完全没有影响,因为乘以零会使该向量从计算中消失。在核函数的情况下也是如此

<w, x> = SUM_i^N y_i alpha_i K(x_i, x)

对于拉格朗日乘数为零的情况,对应向量的核函数值无关紧要(同样 – 乘以零会删除此元素)。

因此,我们这些用于表达超平面的向量为支持向量,因为它们是唯一真正支持超平面的向量,其余的向量在计算中被忽略。

Related Posts

Keras Dense层输入未被展平

这是我的测试代码: from keras import…

无法将分类变量输入随机森林

我有10个分类变量和3个数值变量。我在分割后直接将它们…

如何在Keras中对每个输出应用Sigmoid函数?

这是我代码的一部分。 model = Sequenti…

如何选择类概率的最佳阈值?

我的神经网络输出是一个用于多标签分类的预测类概率表: …

在Keras中使用深度学习得到不同的结果

我按照一个教程使用Keras中的深度神经网络进行文本分…

‘MatMul’操作的输入’b’类型为float32,与参数’a’的类型float64不匹配

我写了一个简单的TensorFlow代码,但不断遇到T…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注