function [predictY] = logisticRegressionClassify(testX, testY, w)    temp = arrayfun(@(x) x/(1+x), exp(testX * w));    [~, predictY] = max(temp, [], 2);

我在进行多类逻辑回归时，始终无法得到合理的结果。后来我发现问题出在计算temp时出现了NaN和0。如何修改这段代码来避免这种问题？

回答：

这是一个微妙的问题！看起来你使用的是正确的公式，但随后却因为数值问题而崩溃。为什么呢？exp(x)/exp(x)如果x足够大，就不等于1了。

解决方案是使用一个不同的但数学上等价的公式：

temp = arrayfun(@(x) 1/(1+x), exp(-testX * w))

你也可以省略arrayfun调用（除非我遗漏了什么，否则它似乎是多余的）：

temp = 1./(1+exp(-testX*w);

这些公式与你写的等价（但没有数值问题）。在数学上，e^x/(1+e^x) = 1/(1+e^-x)

原始版本的问题出在哪里？

假设testX * w = 2000。那么你有exp(2000) = inf，而exp(2000)/ ( 1+ exp(2000)返回NaN，因为inf/inf是未定义的。另一方面，1/inf = 0，第二个公式在所有情况下都能很好地工作。

总结如下：

exp(x) ./ ( 1+ exp(x))          % <------ 可能会导致inf/inf= NaN的问题1 ./ ( 1  + exp(-x))            % <------ 效果很好！