(有什么更好的输入markdown的方式吗？)

我开始尝试学习正则化的多类逻辑回归分类器的工作原理，但我在第一步就遇到了困难。逻辑回归的负对数似然函数及其梯度在$m$个类别下的表达式如下：

如果我有一个特征矩阵$\bf X$，其大小为800K x 50，那么$\bf W$、$\bf w_{k}$、$\bf x_{j}$的维度是什么？$n$和$m$分别等于多少？

我原本以为$m=50$，$n=800K$，$\bf W$也是一个800K x 50的矩阵，$\bf w_{k}$是$\bf W$的一列，大小为800K x 1，$\bf x_{j}$是$\bf X$的一行，大小为50 x 1。然而显然我错了，因为如果这些向量的长度不相等，我就无法进行点积运算$\bf w_{k}^{T} \bf x_{j}$。我误解了哪些部分？

回答：

你有n=500k个样本，每个样本由50个特征表示。因此，特征的数量是50。类别的数量m在你的问题中没有提到（并不是50）。$\bf W$是权重矩阵，可以看作是一个50 x m的矩阵。$\bf w_{k}$是$\bf W$的一列，是一个大小为50 x 1的向量。关于x你是对的：$\bf x_{j}$是$\bf X$的一行，大小为50 x 1。