当我使用optimizer.minimize()
和model.predict()
来训练一个带有损失函数的模型时,在TensorFlow.js中遇到了问题。这仅在我在卷积神经网络中使用maxPooling2D
层时发生,类似于下面的代码。这会产生这样的错误:Cannot read property 'backend' of undefined
。我不知道是什么原因导致这个错误,也不知道如何解决它。当使用没有池化层的卷积层(tf.layers.conv2d()
)时,这个错误不会发生。我使用的是TensorFlow.js版本0.14.2
和Google Chrome版本71.0.3578.98
。可以使用以下代码重现此错误:
loss = (pred, label) => pred.sub(label).square().mean();optimizer = tf.train.sgd(0.001);const input = tf.input({shape: [100, 100, 4]});const conv = tf.layers.conv2d({ kernelSize: 5, filters: 8, strides: 1, activation: 'relu', kernelInitializer: 'VarianceScaling'});const pool = tf.layers.maxPooling2d({ poolSize: [2, 2], strides: [2, 2]});const flat = tf.layers.flatten();const dense = tf.layers.dense({units: 10});const output = dense.apply(flat.apply(pool.apply(conv.apply(input))));const model = tf.model({inputs: input, outputs: output});for (var i = 0; i < 10; i++) { optimizer.minimize(() => loss(model.predict([tf.ones([1, 100, 100, 4])]), tf.ones([1, 10])) );}
编辑:这个问题已经解决。请查看scai的回答以获取详细信息。
编辑2:这似乎不是一个错误,而是在使用model.predict()
时反向传播的变化。更多信息
回答:
在TensorFlow.js 0.14+版本中,有一个变化禁用了Model.predict()方法中的反向传播支持。你可以使用Model.apply()方法并设置{training: true}标志来修复你的代码。
即,将
optimizer.minimize(() => loss(model.predict([tf.ones([1, 100, 100, 4])]), tf.ones([1, 10])));
更改为
optimizer.minimize(() => loss(model.apply([tf.ones([1, 100, 100, 4])], {training: true}), tf.ones([1, 10])));