我有一个数据集,一个大型数据集。我使用T-SNE绘制了数据,但我无法找到一个线性可分的决策边界,因为我没有在其中找到决策边界。
我尝试了SVM,希望它能起作用,如果它能够在更高维度上分离超平面的话。
目前我的训练准确率为94%,但后来我增加了20,000条数据后,测试错误率达到了50%,训练数据的准确率增加到了65%(在交叉验证中也大致相同),训练准确率仍然是93%。我的问题是,我真的在准确地解决这个机器学习问题吗?还是我走错了方向?如果可能的话,有人能提供一些关于解决问题的实际方法的链接吗?
回答:
看起来你遇到了过拟合的问题。基本上你的SVM是在记忆训练数据,对于之前未见过的新数据无法正确预测。你可以通过使用较小的C
值来减少过拟合。
我认为总的来说,很难说SVM是否是解决你问题的最佳方法。有无免费午餐定理指出,可能不存在一种能够解决所有问题的单一机器学习算法,目前我也不知道有什么方法可以将问题映射到最优算法上。
你可能应该先修正当前使用SVM方法中明显的错误,然后研究它在哪里以及为什么失败。如果你完成了这些步骤,你或许能够选择另一种算法来解决这些缺点。