LSTM单元中的单元数量与”记忆距离”之间有关系吗?

我理解LSTM的控制方程,并且我看到了这个帖子,它讨论了LSTM的单元数量的含义,但我有一个不同的疑问——LSTM中单元的数量与记忆的“距离”/模型能够“回顾”的数量之间是否有关系? 例如,如果我的数据采样率为1000 Hz,并且我有一个包含100个单元的LSTM,那么这是否意味着我的模型只能学习过去100毫秒之间的关系/记住过去100毫秒的事情?还是我在脑海中过于简化了这种关系?


回答:

据我所知,没有。或者至少,不是直接的——但更高潜在维度的LSTM层会有更多的容量,并且可能有更多的“空间”来容纳更复杂的模式,包括那些利用“远距离”记忆的模式。

使用更多的LSTM层也可能有助于学习更复杂的模式。

关于100个单元 – 100个时间步长的部分,至少可以说这是过于简化的。

Related Posts

在使用k近邻算法时,有没有办法获取被使用的“邻居”?

我想找到一种方法来确定在我的knn算法中实际使用了哪些…

Theano在Google Colab上无法启用GPU支持

我在尝试使用Theano库训练一个模型。由于我的电脑内…

准确性评分似乎有误

这里是代码: from sklearn.metrics…

Keras Functional API: “错误检查输入时:期望input_1具有4个维度,但得到形状为(X, Y)的数组”

我在尝试使用Keras的fit_generator来训…

如何使用sklearn.datasets.make_classification在指定范围内生成合成数据?

我想为分类问题创建合成数据。我使用了sklearn.d…

如何处理预测时不在训练集中的标签

已关闭。 此问题与编程或软件开发无关。目前不接受回答。…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注