我有以下代码,在创建层时使用了Keras和Theano:
net.add(Dense(outdim))Wlast = net.layers[-1].WWlast.set_value(Wlast.get_value(borrow=True) * 0.1)
对于TensorFlow,是否有合适的转换?我尝试了这个:
net.add(Dense(outdim))Wlast = net.layers[-1].WK.set_value(Wlast, K.get_value(Wlast) * 0.1)# 在此之前我做了一些导入和设置会话:# from Keras import backend as K# K.set_session(session)
但我不确定这是否以适当的方式工作…
因为我使用这一层作为概率输出:- 在Theano版本中,概率向量在[-1,-1]范围内- 另一方面,如果我使用这段Keras代码,概率会偏离超过1(如果我手动将这些输出权重减少0.1 – 概率分布会更接近Theano)
回答:
正确的解决方案是使用Keras的lambdas,例如:
net.add(Dense(outdim))net.add(Lambda(lambda x: x * 0.1))