我在进行交叉验证时遇到了问题。目前我只是在我的参数上进行循环（迭代）（例如RBF SVM的C和gamma），并进行内部的留一验证。

当然，这可能会引入偏差。因此，最好进行嵌套交叉验证，例如外部留一验证和内部10折交叉验证。

问题是我只有37个数据点，嵌套交叉验证会大大增加运行时间，而且我还想打印例如对于k近邻的k值与准确率，或者对于神经网络的隐藏层数量与准确率的对比，这在嵌套交叉验证中是不可能的。

如果不使用嵌套交叉验证，偏差真的很大吗？我可以继续使用单一的CV方法吗？有没有一些论文声称单一交叉验证是可以接受的？

回答：

从统计学的角度来看，无论你对37个数据点做什么，都不会是统计上可靠的。即使是最精确的分析，也无法推广到这个数据集之外。不要花时间在分析和测试上，你应该尽一切努力获取更多的数据。

如果你有更大的数据集，那么“单一CV”几乎总是会高估你的结果。这种偏差的大小很难确定，事实上，据我所知，它实际上可能是无界的。请参考Hasti和Tibshirani的《统计学习的要素》第7.10.2节。