我想了解下图中Tensorflow的BasicRNNCell
在循环神经网络中的结构是什么?我觉得它是一个有3层和12个神经元的神经网络。但我不确定这些连接是什么样的?我不确定这是否是一个霍普菲尔德网络?
cell = tf.contrib.rnn.BasicRNNCell(num_units=12)states_series, current_state = tf.nn.dynamic_rnn(cell=cell,inputs=batchX_placeholder,dtype=tf.float32)
回答:
这是基本RNN单元的一层,每层有12个隐藏单元。单元的数量取决于你的batchX_placeholder
占位符。
这里是一个例子:
n_steps = 2n_inputs = 3n_neurons = 5 X = tf.placeholder(dtype=tf.float32, shape=[None, n_steps, n_inputs])basic_cell = tf.nn.rnn_cell.BasicRNNCell(num_units=n_neurons)outputs, states = tf.nn.dynamic_rnn(basic_cell, X, dtype=tf.float32)print(tf.trainable_variables())
它会打印…
[<tf.Variable 'rnn/basic_rnn_cell/kernel:0' shape=(8, 5) dtype=float32_ref>, <tf.Variable 'rnn/basic_rnn_cell/bias:0' shape=(5,) dtype=float32_ref>]
所以它创建了一个共享的内核矩阵和一个共享的偏置向量。单元的数量对应于output.shape
(从X.shape
派生),在这个例子中是[?, 2, 5]
。所以有2个单元。
如果你希望创建多层,你应该使用tf.nn.rnn_cell.MultiRNNCell
函数,该函数接受每层单元的列表。