我有一个2D输入(如果考虑样本数量的话,也可以是3D),我想应用一个Keras层来处理这个输入,并输出另一个2D矩阵。例如,如果我的输入大小为(ExV),学习权重矩阵将是(SxE),输出为(SxV)。我可以用Dense层来实现这个吗?
编辑 (Nassim请求):
第一层什么都不做。只是为了给Lambda层提供一个输入:
from keras.models import Sequentialfrom keras.layers.core import Reshape,Lambdafrom keras import backend as Kfrom keras.models import Modelinput_sample = [[[1,2,3,4,5],[6,7,8,9,10],[11,12,13,14,15],[16,17,18,19,20]],[[21,22,23,24,25],[26,27,28,29,30],[31,32,33,34,35],[36,37,38,39,40]],[[41,42,43,44,45],[46,47,48,49,50],[51,52,53,54,55],[56,57,58,59,60]]]model = Sequential()model.add(Reshape((4,5), input_shape=(4,5)))model.add(Lambda(lambda x: K.transpose(x)))intermediate_layer_model = Model(input=model.input,output=model.layers[0].output)print "第一层:"print intermediate_layer_model.predict(input_sample)print ""print "第二层:"intermediate_layer_model = Model(input=model.input,output=model.layers[1].output)print intermediate_layer_model.predict(input_sample)
回答:
这取决于你想要做什么。它是2D是因为它是一个序列吗?如果是这样,LSTM就是为此设计的,如果你设置return_sequence=True,它将返回所需大小的序列。
CNN也可以处理2D输入,输出的大小会根据你使用的卷积核数量而变化。
否则,你可以将它重塑为一个(E x V, )的1D张量,使用一个维度为SxV的Dense层,然后将输出重塑为一个(S,V)的2D张量…
我无法提供更多帮助,我们需要了解你的具体用例 🙂 神经网络的可能性太多了。
编辑:
你可以使用TimeDistributed(Dense(S))。如果你的输入形状为(E,V),你可以重塑为(V,E)以使V成为“时间维度”。然后应用TimeDistributed(Dense(S)),这将是一个权重为(ExS)的Dense层,输出将具有形状(V,S),然后你可以将其重塑为(S,V)。
这是否符合你的需求?TimeDistributed()层将使用共享权重对输入的每V行应用相同的Dense(S)层。
编辑2:
在查看Keras后端的代码后,发现要使用TensorFlow中的transpose函数并使用’permutation patterns’选项,你需要使用K.permute_dimensions(x,pattern)。必须包括批处理维度。在你的情况下:
Lambda(lambda x: K.permute_dimensions(x,[0,2,1]))
K.transpose(x)在内部使用相同的函数(对于tf后端),但permutations被设置为默认值,即[n,n-1,…,0]。