在Keras中的有状态LSTM中,一个批次内的样本状态是否会在样本之间保留?

假设我想对时间序列进行分类,每个序列有33个时间步。我将它们分成了较小的片段。假设我有以下输入X_1,其维度是(32,3,1),即32个样本,3个时间步,1个特征:

[    [[1],  [2],  [3]]  # 来自时间序列1的第1到第3步    [[11], [14], [17]] # 来自时间序列2的第1到第3步    [[3],  [5],  [7]]  # 来自时间序列3的第1到第3步    ...    [[9],  [7],  [2]]  # 来自时间序列32的第1到第3步]

以及Y = [A, A, B, …, B],包含这一批次中32个时间序列的标签。

现在我运行model.fit(X_1, Y)

然后我取每个时间序列的下3个时间步作为X_2

[    [[4],  [5],  [6]]  # 来自时间序列1的第4到第6步    [[20], [23], [26]] # 来自时间序列2的第4到第6步    [[9],  [11], [13]] # 来自时间序列3的第4到第6步    ...    [[8],  [1],  [9]]  # 来自时间序列32的第4到第6步]

同样是Y = [A, A, B, …, B]

因为我已经将时间序列分割开来,我使用了有状态模型,以便X_1的状态能够为X_2保存下来。

我再次运行model.fit(X_2, Y)。我重复这个过程直到X_11,它包含了输入数据的第31到33个时间步。在调用model.fit(X_11, y)之后,我将调用model.reset_states(),因为我已经完成了第一批32个时间序列的处理,我可以从头开始处理新的一批32个时间序列。

至少到目前为止,我以为这是处理这种情况的方式。但现在我读到,默认情况下状态会在批次内的样本之间保留,那么这是否意味着X_0中时间序列1的前3步的状态也被用于时间序列2的前3步?因为这没有意义,它们之间没有任何共同之处,状态不应该在它们之间共享。那么,哪个是正确的?


回答:

不,状态是矩阵,其中一个维度是批次大小,这意味着每个样本有一行状态。

序列1不会与序列2通信。

Related Posts

如何使用Google Protobuf解析、编辑和生成object_detection/pipeline.config文件

我在一个常见的集成学习范式中训练多个模型,目前我在处理…

我的GridSearchCV不起作用,我不知道为什么

大家好,我在使用GridSearchCV时遇到了问题,…

Keras: 两个同时进行的层,其中一个对前一层的输出进行卷积

我想实现这样的模型连接: 输入图像1 -> 卷积层1 …

如何将行数据转换为列数据而不使用独热编码

我有一个如下所示的数据集。 MonthDate Day…

使用 ML Kit 与 NNAPI

我正在尝试在运行 Android 9 的设备上使用新的…

Vowpal Wabbit 可能的哈希冲突

我在VW中生成了一个模型,并且在相同的数据上生成了两个…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注