我理解LSTM的控制方程,并且我看到了这个帖子,它讨论了LSTM的单元数量的含义,但我有一个不同的疑问——LSTM中单元的数量与记忆的“距离”/模型能够“回顾”的数量之间是否有关系? 例如,如果我的数据采样率为1000 Hz,并且我有一个包含100个单元的LSTM,那么这是否意味着我的模型只能学习过去100毫秒之间的关系/记住过去100毫秒的事情?还是我在脑海中过于简化了这种关系?
回答:
据我所知,没有。或者至少,不是直接的——但更高潜在维度的LSTM层会有更多的容量,并且可能有更多的“空间”来容纳更复杂的模式,包括那些利用“远距离”记忆的模式。
使用更多的LSTM层也可能有助于学习更复杂的模式。
关于100个单元 – 100个时间步长的部分,至少可以说这是过于简化的。