迷你批量学习中列向量和行向量的批处理乘法

在Matlab中,我想将列向量A与行向量B相乘,得到的结果是一个矩阵。现在假设我想批量乘A1A2,…,AnB1B2,…,Bn。也就是说,我想利用Matlab在矩阵上的并行处理能力,将这个问题转化为矩阵乘法问题。顺便说一下,parfor在我的情况下不起作用。

我这样做的原因是我想在Matlab中实现迷你批量学习。假设一个迷你批量中有n个训练样本。当我尝试反向传播误差时,一个迷你批量中所有情况的误差是n个行向量B1B2,…,Bn。而所有n个情况对应的梯度是n个列向量A1A2,…,An。我想将它们相乘以获得所有n个情况的增量权重。


回答:

假设你有一个矩阵A(相应地B),其中列是你的n个向量A1,A2,…,An(相应地B1,B2,…,Bn),

你的程序将输出n个矩阵。为了向量化这个过程,你必须将矩阵的维度增加1(在这种情况下,从2维增加到3维)。它们的第i个“切片”在常数z处将分别是你的向量AiBi。然后,你可以使用bsxfun@times函数句柄:

n=size(A,2);rA=reshape(A,[],1,n); % 将A翻转到第一和第三维度rB=reshape(B,1,[],n);% 使用bsxfun计算乘积Out=bsxfun(@times, rA,rB);% 现在Out是一个3维矩阵,其中在常数z处的切片% 是你想要的输出矩阵% 这里的技巧是,列向量Ai与行向量Bi的矩阵乘法等于矩阵[Ai Ai ... Ai]与矩阵[Bi;Bi;...;Bi]的逐元素乘法,% 这就是bsxfun调用所做的% (参见关于“单例扩展”的部分)

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注