我正在使用libSVM。假设我的特征值格式如下：
instance1 : f11, f12, f13, f14 instance2 : f21, f22, f23, f24 instance3 : f31, f32, f33, f34 instance4 : f41, f42, f43, f44 .............................. instanceN : fN1, fN2, fN3, fN4我认为可以应用两种缩放方法。
-
缩放每个实例向量，使每个向量的均值为零，方差为单位。
( (f11, f12, f13, f14) - mean((f11, f12, f13, f14) ) ) / std((f11, f12, f13, f14) ) -
将上述矩阵的每一列缩放到一个范围，例如[-1, 1]
根据我使用RBF核（libSVM）的实验，我发现第二种缩放方法（2）使结果提高了大约10%。我没有理解为什么（2）会给我带来改进的结果。
能有人解释一下为什么要应用缩放，以及为什么第二种选项会给我带来改进的结果吗？
回答：
标准做法是使每个维度（或属性，或列（在你的例子中））具有零均值和单位方差。
这将SVM的每个维度带到相同的量级。来自http://www.csie.ntu.edu.tw/~cjlin/papers/guide/guide.pdf：
缩放的主要优势是避免数值范围较大的属性支配数值范围较小的属性。另一个优势是避免计算过程中的数值困难。因为核值通常依赖于特征向量的内积，例如线性核和多项式核，大属性值可能会引起数值问题。我们建议将每个属性线性缩放到[-1,+1]或[0,1]的范围内。
