我目前正在学习两门关于深度学习的讲座。让我感到困惑的是，当他们构建输入矩阵X时，两门讲座在符号表示上存在差异。

在Coursera的讲座中，他们将矩阵X的形状设置为（特征数量，样本数量），这样样本是垂直堆叠的。相反，另一门讲座则是将样本水平堆叠，因此每一行代表一个样本。

是什么导致了这种差异？我应该遵循哪一种方式？

回答：

这里有几个需要解答的问题：

首先 我们先假设我们的神经网络只有一个层，并且批次中只有一个样本，你会垂直堆叠特征，因为这样做更直观，

如上图所示，每个特征将由一个输入节点表示，所以如果你有多个样本，按照（特征数量，样本数量）的形状排列它们是有意义的。在继续下一部分之前，请确保你正确理解了这一部分。

第二部分 现在当我们想要移动到下一层时，我们希望使前一层的输出看起来像是这一层的输入，所以我们希望输入的形状是（隐藏层数量，样本数量），以便我们能够一致地可视化每一层，现在我们还需要前馈，为此在隐藏层的权重矩阵中，我们有形状（前一层特征/神经元数量，当前层特征/神经元数量），为了保持一致性，我们必须在乘以X之前转置权重矩阵（W）。我希望这解释了为什么我们要列堆叠样本。

现在我们来讨论为什么有时它们被表示为水平堆叠，答案是因为这样计算成本和损失更加直观，你的输出层y作为垂直列堆叠，你的预测y_hat也是垂直列堆叠，这样y – y_hat这样的语句比它们水平堆叠且不是向量时更加直观。

那么我们应该从中学到什么，在训练时输入数据，我们将它们堆叠为（特征数量，样本数量）的形状，以保持整个网络的一致性和直观性，并且我们垂直堆叠样本以获得Y作为向量。在实践中，人们通常避免垂直堆叠样本，他们只是从水平堆叠中获取y或你输出向量的转置，但一开始有这种可视化是好的。

编辑 此外，要表示输入数据，例如当它以类似Excel、CSV、DataFrame等的表格结构表示时，样本是垂直堆叠的。

如果你有任何疑问或困惑，请在下方评论。

图片来源：Google