回归公式中的矩阵维度不匹配

我在计算这个 回归公式时遇到了问题,维度计算不正确:

X-一个维度为 200×20 的矩阵,n=200个样本,p=20个预测变量,

y-一个维度为 200×1 的矩阵,

– 一系列系数,维度为 20×1,k=1,2,3…

– 维度为 20×200

j– 取值范围为 1…p,即从 1…20

问题出现在我计算

例如,当k=20时,k-1=19,我有 ,维度不匹配,无法进行减法运算 200×1200×20 x 1×1 =200×1200×20 是不行的。

如果我使用整个beta向量,那么是正确的。 是否意味着取Beta的第19个值并与矩阵X相乘?

公式来源:

enter image description here


回答:

你应该在计算的每个阶段都使用整个beta向量。

(Tibshirani在使用符号上可能有点宽松…)

k 只是算法步骤的计数器。在开始时(k = 0 或“步骤0”),我们将整个beta向量的元素初始化为零:step0

在算法的每个步骤(步骤 k = 1, 2, 3... 等等),我们使用之前估计的beta向量(enter image description here 在步骤 k - 1 计算)来计算一个新的改进的beta向量估计(enter image description here)。上标数字不是向量的索引,而是告诉我们在算法的哪个阶段产生了该beta向量。

希望这能解释清楚。重要的是,每个值 enter image description here 都是一个不同的20×1向量。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注