多对多LSTM模型在不同样本上的应用

我最近开始学习如何为多变量时间序列数据构建LSTM模型。我已经查看了这里这里,了解如何填充序列并实现多对多LSTM模型。我创建了一个数据框来测试模型,但总是遇到下面的错误。

d = {'ID':['a12', 'a12','a12','a12','a12','b33','b33','b33','b33','v55','v55','v55','v55','v55','v55'], 'Exp_A':[2.2,2.2,2.2,2.2,2.2,3.1,3.1,3.1,3.1,1.5,1.5,1.5,1.5,1.5,1.5],      'Exp_B':[2.4,2.4,2.4,2.4,2.4,1.2,1.2,1.2,1.2,1.5,1.5,1.5,1.5,1.5,1.5],      'A':[0,0,1,0,1,0,1,0,1,0,1,1,1,0,1], 'B':[0,0,1,1,1,0,0,1,1,1,0,0,1,0,1],     'Time_Interval': ['11:00:00', '11:10:00', '11:20:00', '11:30:00', '11:40:00',                '11:00:00', '11:10:00', '11:20:00', '11:30:00',                '11:00:00', '11:10:00', '11:20:00', '11:30:00', '11:40:00', '11:50:00']}df = pd.DataFrame(d)df.set_index('Time_Interval', inplace=True)

我尝试使用蛮力方法进行填充:

from keras.preprocessing.sequence import pad_sequencesx1 = df['A'][df['ID']== 'a12']x2 = df['A'][df['ID']== 'b33']x3 = df['A'][df['ID']== 'v55']mx = df['ID'].size().max() # 查找最大组seq1 = [x1, x2, x3]padded1 = np.array(pad_sequences(seq1, maxlen=6, dtype='float32')).reshape(-1,mx,1)

以类似的方式,我为每个特征创建了padded2padded3padded4

padded_data = np.dstack((padded1, padded1, padded3, padded4))padded_data.shape = (3, 6, 4)padded_dataarray([[[0. , 0. , 0. , 0. ],        [0. , 0. , 2.2, 2.4],        [0. , 0. , 2.2, 2.4],        [1. , 1. , 2.2, 2.4],        [0. , 0. , 2.2, 2.4],        [1. , 1. , 2.2, 2.4]],       [[0. , 0. , 0. , 0. ],        [0. , 0. , 0. , 0. ],        [0. , 0. , 3.1, 1.2],        [1. , 1. , 3.1, 1.2],        [0. , 0. , 3.1, 1.2],        [1. , 1. , 3.1, 1.2]],       [[0. , 0. , 1.5, 1.5],        [1. , 1. , 1.5, 1.5],        [1. , 1. , 1.5, 1.5],        [1. , 1. , 1.5, 1.5],        [0. , 0. , 1.5, 1.5],        [1. , 1. , 1.5, 1.5]]], dtype=float32)

编辑

#分成训练/测试train = pad_1[:2]   # 用前两个样本进行训练。test = pad_1[-1:]    train_X = train[:,:-1]  # 一步预测。train_y = train[:,1:]test_X = test[:,:-1]  # 用最后一个样本进行测试test_y = test[:,1:]# 检查形状print(train_X.shape, train_y.shape, test_X.shape, test_y.shape)#(2, 5, 4) (2, 5, 4) (1, 5, 4) (1, 5, 4)# 设计网络model = Sequential()model.add(Masking(mask_value=0., input_shape=(train.shape[1], train.shape[2])))model.add(LSTM(32, input_shape=(train.shape[1], train.shape[2]), return_sequences=True))model.add(Dense(4))model.compile(loss='mae', optimizer='adam', metrics=['accuracy'])model.summary()# 拟合网络history = model.fit(train, test, epochs=300, validation_data=(test_X, test_y), verbose=2, shuffle=False)

[![enter image description here][3]][3]

所以我的问题是:

  1. 肯定有更有效的数据转换方法,对吗?
  2. 假设我想对未来序列进行单步预测,我有

第一个时间步 = array([[[0.5 , 0.9 , 2.5, 3.5]]], dtype=float32)其中第一个时间步是序列的一个单一“帧”。如何调整模型以纳入这个?


回答:

为了解决错误,请从LSTM层的参数中移除return_sequence=True(因为在你定义的这种架构中,你只需要最后一层的输出),并且简单地使用train[:, -1]test[:, -1](而不是train[:, -1:]test[:, -1:])来提取标签(即移除:会导致第二轴被删除,从而使标签形状与模型的输出形状一致)。

顺便提一下,将Dense层包装在TimeDistributed层内是多余的,因为Dense层是在最后一个轴上应用的


更新:至于新的问题,要么填充只有一个时间步的输入序列,使其形状为(5,4),要么将第一层的输入形状(即Masking)设置为input_shape=(None, train.shape[2]),这样模型就可以处理不同长度的输入。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注