我使用R语言中的neuralnet函数来训练160个独立的神经网络模型,每个模型有两个输入变量,并将它们部署在测试数据上。
我需要预测结果被限制为正值。
我原本以为在neuralnet函数中指定act.fct = “logistic”就能达到这个目的。
然而,似乎激活函数并未被应用。经过检查权重后,函数的输出似乎只是输入值和权重的乘积之和,再加上偏置节点的值。
在我的输出中,我尝试预测的9条记录中有2条是负值 – 两者都为-0.0885。为了简化,我指定了一个没有隐藏层的neural network。在模型创建后,我发现负值的罪魁祸首是偏置节点。虽然两个变量的权重是正的,但偏置节点是负的。
if (require(neuralnet==F)) install.packages("neuralnet"); require(neuralnet)for (i in 1:160) { training.list[[i]] <- neuralnet(nn.training[,i] ~ nn.training[,i+160]+nn.training[,i+320], nn.training, act.fct = "logistic", hidden = 0, threshold = 0.01) } plot(training.list[[1]])# Load test data in proper format load("nn_test.Rdata") # predict on only the first dataset for illustration's sake a <- compute(training.list[[1]], cbind(test[,1], test[,1+160]))
a的输出是
$net.result [,1] [1,] 0.44661508 [2,] 0.31966633 [3,] 0.01916739 [4,] -0.08849801 [5,] -0.08849801 [6,] 0.39840670 [7,] 0.33252190 [8,] 0.33573579 [9,] 0.38555113
从图表中可以看到,每个输入节点的权重分别为0.71174和0.39118,偏置节点的权重为-0.0891。
我需要指定什么才能将输出限制为正值?
回答:
默认情况下,act.fct
仅应用于隐藏层。如果你也希望它影响输出层 – 你需要设置linear.output = FALSE
。
来自文档
act.fct
是一个可微分的函数,用于平滑协变量或神经元与权重的交叉乘积的结果。此外,字符串’logistic’和’tanh’可用于逻辑函数和双曲正切函数。
linear.output logical
。 如果act.fct不应应用于输出神经元,则将linear output设置为TRUE,否则设置为FALSE。