Keras自定义层:2D输入 -> 2D输出

我有一个2D输入(如果考虑样本数量的话,也可以是3D),我想应用一个Keras层来处理这个输入,并输出另一个2D矩阵。例如,如果我的输入大小为(ExV),学习权重矩阵将是(SxE),输出为(SxV)。我可以用Dense层来实现这个吗?

编辑 (Nassim请求):

第一层什么都不做。只是为了给Lambda层提供一个输入:

from keras.models import Sequentialfrom keras.layers.core import Reshape,Lambdafrom keras import backend as Kfrom keras.models import Modelinput_sample = [[[1,2,3,4,5],[6,7,8,9,10],[11,12,13,14,15],[16,17,18,19,20]],[[21,22,23,24,25],[26,27,28,29,30],[31,32,33,34,35],[36,37,38,39,40]],[[41,42,43,44,45],[46,47,48,49,50],[51,52,53,54,55],[56,57,58,59,60]]]model = Sequential()model.add(Reshape((4,5), input_shape=(4,5)))model.add(Lambda(lambda x: K.transpose(x)))intermediate_layer_model = Model(input=model.input,output=model.layers[0].output)print "第一层:"print intermediate_layer_model.predict(input_sample)print ""print "第二层:"intermediate_layer_model = Model(input=model.input,output=model.layers[1].output)print intermediate_layer_model.predict(input_sample)

回答:

这取决于你想要做什么。它是2D是因为它是一个序列吗?如果是这样,LSTM就是为此设计的,如果你设置return_sequence=True,它将返回所需大小的序列。

CNN也可以处理2D输入,输出的大小会根据你使用的卷积核数量而变化。

否则,你可以将它重塑为一个(E x V, )的1D张量,使用一个维度为SxV的Dense层,然后将输出重塑为一个(S,V)的2D张量…

我无法提供更多帮助,我们需要了解你的具体用例 🙂 神经网络的可能性太多了。

编辑:

你可以使用TimeDistributed(Dense(S))。如果你的输入形状为(E,V),你可以重塑为(V,E)以使V成为“时间维度”。然后应用TimeDistributed(Dense(S)),这将是一个权重为(ExS)的Dense层,输出将具有形状(V,S),然后你可以将其重塑为(S,V)。

这是否符合你的需求?TimeDistributed()层将使用共享权重对输入的每V行应用相同的Dense(S)层。

编辑2:

在查看Keras后端的代码后,发现要使用TensorFlow中的transpose函数并使用’permutation patterns’选项,你需要使用K.permute_dimensions(x,pattern)。必须包括批处理维度。在你的情况下:

Lambda(lambda x: K.permute_dimensions(x,[0,2,1]))

K.transpose(x)在内部使用相同的函数(对于tf后端),但permutations被设置为默认值,即[n,n-1,…,0]。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注