我一直在使用MATLAB LIBSVM进行预测工作。我有一个数据集,其中75%用于训练,15%用于寻找最佳参数,剩余部分用于测试。代码如下所示。
trainX and trainY are the input and output training instancestestValX and testValY are the validation dataset I usefor j = 1:100 for jj = 1:10 model(j,jj) = svmtrain(trainY,trainX,... ['-s 3 -t 2 -c ' num2str(j) ' -p 0.001 -g ' num2str(jj) '-v 5']); [predicted_label, ~, ~]=svmpredict(testValY,... testValX,model(j,jj)); MSE(j,jj) = sum(((predicted_label-testValY).^2)/2); endend[min_val,min_indi] = min(MSE(:));best_predicted_model_rbf(i) = model(min_indi);
我的问题是这种方法是否正确。我创建了一个模型矩阵,使用不同的c和g值。我使用了-v选项,这是关键所在。从预测的模型中,我使用验证数据集进行预测,并计算均方误差。使用这个MSE,我选择了最佳的c和g。由于我使用了-v选项,它返回的是交叉验证的输出,那么我遵循的这个过程是否正确呢?
回答:
首先,我认为代码中有一个小问题,即num2str(jj) '-v 5']);
在-v之前没有空格。这可能会导致该标志无法被读取。在另一个问题中,你提到这“有时会返回一个模型”,如果该标志未被读取,就会发生这种情况。如果标志被读取,使用’-v’标志时,你应该只得到一个数字,而不是一个模型。
其次,看起来你在这里做了两件不同的事情,单独来看任何一件都是合理的。使用’-v’调用svmtrain会在训练集上运行交叉验证。这不应该返回一个模型,而应该只返回一个mse估计值。你可以使用这些估计值来确定哪个参数设置是最好的,然后在所有训练数据上使用该设置训练一个模型。
无论如何,接下来你对一个保留的验证集testValX调用svmpredict(y,x,model),但在使用’-v’调用svmtrain后,model此时应该只是一个标量。为了使这个调用正确运行,你必须从svmtrain中获取不带’-v’的模型,这样它才是一个结构体。你所做的其他部分在这个情况下是有意义的,即你使用testValX进行保留验证。