神经网络重新训练

我在Python中使用neurolab来创建神经网络。我创建了一个newff网络,并使用默认的train_bfgs训练函数。我的问题是,很多时候训练会在达到设定的轮次或错误目标之前就结束。我在neurolabs的GitHub页面上找到了一篇帖子,他们解释了为什么会发生这种情况。我的问题是,如果我重新运行程序几次,它就会开始训练,然后错误也会下降(可能是由于一些随机的初始权重比其他权重要好)。我想在训练过程中加入一种检查,如果错误过高且训练的轮次远未达到总轮次,就重新训练网络(有点像重新运行程序)(可能需要重置网络的默认权重)。

这是我写的代码,但显然它不起作用

trainingComplete = Falsewhile not trainingComplete:    error = net.train(trainingData, TS, epochs=50, show=10, goal=0.001)    if len(error) < 0.8*epochs:        if len(error) > 0 and min(error) < 0.01:            trainingComplete = True        else:            net.reset()            continue    else:        trainingComplete = True

发生的情况是,当它通过第一个条件,即训练轮次过少时,它会在重新开始前执行net.reset(),但之后没有进行训练,这变成了一个无限循环。有什么我遗漏的地方吗?

谢谢


回答:

由于这个问题几天都没有得到回答,我认为这对SO来说很不好,所以我自己找到了一个可行的解决方法。我尝试通过使用os.execv(__file__, sys.argv)来重新启动脚本,但在我的Mac上这总是权限问题,而且这也太不雅观了,所以这是我现在让它工作的方法。

# 训练网络print('开始训练....')trainingComplete = Falsewhile not trainingComplete:    error = net.train(trainingData, TS, epochs=epochs, show=10, goal=0.001)    if len(error) < 0.8 * epochs:       if len(error) > 0 and min(error) < 0.01:           trainingComplete = True       else:           print('重新开始....')           net = createNeuralNetwork(trainingData, [hidden], 1)           net.trainf = train_bfgs    else:         trainingComplete = True

这有点像是临时解决方案,但确实有效:

开始训练....重新开始....重新开始....重新开始....重新开始....重新开始....重新开始....重新开始....重新开始....轮次: 10; 错误: 1.46314116045;轮次: 20; 错误: 0.759613243435;轮次: 30; 错误: 0.529574731856;..

希望这能帮助到其他人

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注