在我看来,交叉验证是通过尽可能多地使用数据来比较模型。例如,它可以用来比较感知器神经网络和决策树在同一个问题上的表现。或者,它可以用来研究某个特定问题的神经网络中神经元的数量。这里是关于比较模型/架构的。
然而,在我看来,交叉验证似乎不适合寻找神经网络的最佳权重,因为在每次交叉验证的轮次中,权重都会被重新初始化。
您能确认我的观点吗?即交叉验证仅用于比较模型/架构,而不适合寻找这些模型/架构的最佳参数?
谢谢您。
回答:
您的想法是正确的,是的。
通常,您使用交叉验证来估计在未见数据上的准确性。这个估计有助于您选择合适的模型类型/参数等。
一旦您决定了模型配置,您就可以在整个数据集上训练模型。(只是始终要记住,整个数据集上的训练误差并不是对未见数据误差的一个好估计。)