如何在PYTORCH中实现两层嵌套的FOR循环?

我正在学习在Pytorch中实现因子分解机(Factorization Machine)。其中应该有一些特征交叉操作。例如,我有三个特征[A,B,C],经过嵌入后,它们变为[vA,vB,vC],所以特征交叉是“[vA·vB], [vA·vC], [vB·vc]”。

我知道这个操作可以通过以下方式简化:enter image description here

它可以通过矩阵运算来实现。但这只给出了一个最终结果,即一个单一的值。

问题是,如何在不使用FOR循环的情况下获取以下所有的cross_vec:注意:“feature_emb”的大小为[batch_size x feature_len x embedding_size]

    g_feature = 0     for i in range(self.featurn_len):        for j in range(self.featurn_len):            if j <= i: continue            cross_vec = feature_emb[:,i,:] * feature_emb[:,j,:]                   g_feature += torch.sum(cross_vec, dim=1)

回答:

你可以

cross_vec = (feature_emb[:, None, ...] * feature_emb[..., None, :]).sum(dim=-1)

这应该会给你corss_vec的形状为(batch_size, feature_len, feature_len)

或者,你可以使用torch.bmm

cross_vec = torch.bmm(feature_emb, feature_emb.transpose(1, 2))

Related Posts

在使用k近邻算法时,有没有办法获取被使用的“邻居”?

我想找到一种方法来确定在我的knn算法中实际使用了哪些…

Theano在Google Colab上无法启用GPU支持

我在尝试使用Theano库训练一个模型。由于我的电脑内…

准确性评分似乎有误

这里是代码: from sklearn.metrics…

Keras Functional API: “错误检查输入时:期望input_1具有4个维度,但得到形状为(X, Y)的数组”

我在尝试使用Keras的fit_generator来训…

如何使用sklearn.datasets.make_classification在指定范围内生成合成数据?

我想为分类问题创建合成数据。我使用了sklearn.d…

如何处理预测时不在训练集中的标签

已关闭。 此问题与编程或软件开发无关。目前不接受回答。…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注