pytorch LSTM模型无法学习

我创建了一个简单的LSTM模型来预测优衣库的收盘价。问题是,我的模型似乎没有学到任何东西。这是我的笔记本的链接

这是我的模型创建类(我之前尝试过使用relu激活函数,结果相同):

class lstm(torch.nn.Module):  def __init__(self,hidden_layers):    super(lstm,self).__init__()    self.hidden_layers = hidden_layers    self.lstm = torch.nn.LSTM(input_size = 2,hidden_size = 100,num_layers = self.hidden_layers,batch_first=True)    self.hidden1 = torch.nn.Linear(100,80)    self.dropout1 = torch.nn.Dropout(0.1)    self.hidden2 = torch.nn.Linear(80,60)    self.dropout2 = torch.nn.Dropout(0.1)    self.output = torch.nn.Linear(60,1)  def forward(self,x):    batch = len(x)    h = torch.randn(self.hidden_layers,batch,100).requires_grad_().cuda()    c = torch.randn(self.hidden_layers,batch,100).requires_grad_().cuda()    x,(ho,co)= self.lstm(x.view(batch,10,2),(h.detach(),c.detach()))    x = torch.reshape(x[:,-1,:],(batch,-1))    x = self.hidden1(x)    x = torch.nn.functional.tanh(x)    x = self.dropout1(x)    x = self.hidden2(x)    x = torch.nn.functional.tanh(x)    x = self.dropout2(x)    x = self.output(x)    return xmodel = lstm(10)

这是我的训练损失图:训练损失

这是我的验证损失图:验证损失

这是我的真实值(蓝色)与预测值(橙色)的对比:真实值与预测值

请问有人能指出我做错了什么吗?


回答:

你用整个数据集来训练缩放器,这不是一个好的策略。你应该只使用训练数据来训练缩放器。

你不需要缩放目标值。可以直接使用目标值,或者应用对数函数,或者使用回报率。

关于隐藏状态和细胞记忆,为什么你要跟踪梯度然后立即分离它们呢?你在输入LSTM层时不需要分离隐藏状态和细胞记忆,因为它们参与了反向传播。

如果我理解正确的话,你是用过去10个开盘价和成交量来预测下一个收盘价。我认为用这种配置很难得到好的结果。你应该更好地定义问题。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注