用于前馈神经网络训练的有效数据集大小

我正在使用 python 中的前馈神经网络,利用 pybrain 实现。 对于训练,我将使用反向传播算法。 我知道对于神经网络,我们需要有适量的数据,以避免对网络进行欠/过拟合。 我可以获得大约 1200 个不同的训练数据模板用于数据集。
所以问题是:
如何计算训练的最佳数据量?

因为我已经在数据集中尝试了 500 个条目,并且花费了数小时才收敛,所以我希望不必尝试太多尺寸。 使用这个最后的尺寸,结果非常好,但我想找到最佳数量。 神经网络有大约 7 个输入、3 个隐藏节点和一个输出。


回答:

如何计算训练的最佳数据量?

这完全取决于具体的解决方案。 并且带有一些艺术性。 了解你是否进入过拟合区域的唯一方法是定期使用一组验证数据(即你用于训练的数据)来测试你的网络。 当该数据集的性能开始下降时,你可能训练过度了——回滚到上一次迭代。

使用这个最后的尺寸,结果非常好,但我想找到最佳数量。

“最佳”不一定能够实现; 这也取决于你的定义。 你通常寻找的是对一组给定的权重在未见过的数据上表现”良好”的高度置信度。 这就是验证集背后的想法。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注