我在Coursera的机器学习课程中,需要为lrcostfunction作业编写这段代码。但我仍然不明白为什么
theta1 = [0 ; theta(2:end, :)];
要这样写?theta1是什么意思?
h = sigmoid(X * theta)theta1 = [0 ; theta(2:end, :)];p = lambda * (theta1' * theta1)/(2 * m);J = ((-y)'*log(h)-(1-y)'*log(1-h))/m + p;grad = (X' * (h - y) + lambda * theta1)/ m;
回答:
在逻辑回归中,theta(θ)是一个向量,代表x的线性函数的参数(或权重)。
现在,给定一个训练集,学习参数theta(θ)的一种方法是使h(x)接近y,至少对于我们拥有的训练样本是这样。这是通过成本函数或误差函数(J(θ))定义的,对于θ的每个值,我们希望最小化它。
第一个theta1参数被初始化为零。随后使用梯度下降法计算下一个theta参数。在梯度下降法中,J(θ)参数是通过偏微分计算的,因为我们希望最小化它。
这里的\alpha是梯度下降算法运行的学习率。它从数组中的初始值theta1为零开始,然后使用上面的方程计算下一个值,依此类推计算其他theta参数。
编辑:
解释代码:
theta1 = [0 ; theta(2:end, :)];
上面的代码是MATLAB代码。这里theta1是一个数组(向量或矩阵表示)。它是通过两个字段的水平连接创建的。
-
1)
0
-
2)
theta(2:end, :)
第一个是标量值0
第二个,这意味着从数组theta
中取除第一行之外的所有值。(注意theta是LRCOSTFUNCTION(theta, X, y, lambda)
的输入数组)