使用RBF核进行SVR推断的方程是什么?

我在使用sklearn进行SVR(回归)时使用了RBF核。我想了解推断是如何在幕后进行的。我以为它是支持向量、函数均值和gamma的函数,但似乎我遗漏了一个方面(可能是基于两点距离的某种缩放)。

这是我在下面的图表中尝试过的“我的方程”

out = meanfor vect in vectors:    out = out + (vect.y - mean) * math.exp(-(vect.x - x) ** 2 * gamma)

当我只使用两个间隔的点时,我的方程与sklearn的svr.predict报告的结果相匹配。

使用这两个训练点生成的图

当使用三个训练点,其中两个点靠得很近时,我的方程与svr.predict给出的结果不匹配:

输入图像描述

给定支持向量、gamma、均值以及其他所需的任何东西,使用RBF核进行SVR推断的方程是什么?这些可以从sklearn的svr类中获得吗?


回答:

使用sklearn库和RBF核进行SVR推断对我有效的方程如下,附带Python代码:

# x和y已经定义,是SVR的训练数据svr = svm.SVR(kernel="rbf", C=C, gamma=gamma, epsilon=epsilon, tol=tol)svr.fit(x,y)vectors = []for i in svr.support_:    vectors.append([x[i][0], y[i]])out = svr._intercept_[0]for vect, coef in zip(vectors, svr._dual_coef_[0]):    out = out + coef * math.exp(-(vect[0] - x) ** 2 * gamma)

我发现svr._intercept_[0]包含函数的y偏移量。

我发现svr._dual_coef_[0]包含用于乘以每个指数的系数。

我发现svr.support_包含训练集中用作支持向量的元素的索引。

我意识到我正在访问svr类中仅供内部使用的变量,然而,我没有看到官方API方法来访问这些变量,目前这种方法对我有效。

Related Posts

Keras Dense层输入未被展平

这是我的测试代码: from keras import…

无法将分类变量输入随机森林

我有10个分类变量和3个数值变量。我在分割后直接将它们…

如何在Keras中对每个输出应用Sigmoid函数?

这是我代码的一部分。 model = Sequenti…

如何选择类概率的最佳阈值?

我的神经网络输出是一个用于多标签分类的预测类概率表: …

在Keras中使用深度学习得到不同的结果

我按照一个教程使用Keras中的深度神经网络进行文本分…

‘MatMul’操作的输入’b’类型为float32,与参数’a’的类型float64不匹配

我写了一个简单的TensorFlow代码,但不断遇到T…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注