将神经网络输出限制为正值

我使用R语言中的neuralnet函数来训练160个独立的神经网络模型,每个模型有两个输入变量,并将它们部署在测试数据上。

我需要预测结果被限制为正值。
我原本以为在neuralnet函数中指定act.fct = “logistic”就能达到这个目的。

然而,似乎激活函数并未被应用。经过检查权重后,函数的输出似乎只是输入值和权重的乘积之和,再加上偏置节点的值。

在我的输出中,我尝试预测的9条记录中有2条是负值 – 两者都为-0.0885。为了简化,我指定了一个没有隐藏层的neural network。在模型创建后,我发现负值的罪魁祸首是偏置节点。虽然两个变量的权重是正的,但偏置节点是负的。

if (require(neuralnet==F)) install.packages("neuralnet"); require(neuralnet)for (i in 1:160) {    training.list[[i]] <- neuralnet(nn.training[,i] ~  nn.training[,i+160]+nn.training[,i+320], nn.training,                               act.fct = "logistic", hidden = 0, threshold = 0.01)                                   } plot(training.list[[1]])# Load test data in proper format load("nn_test.Rdata") # predict on only the first dataset for illustration's sake a <- compute(training.list[[1]], cbind(test[,1], test[,1+160]))

a的输出是

$net.result         [,1]  [1,]  0.44661508  [2,]  0.31966633  [3,]  0.01916739  [4,] -0.08849801  [5,] -0.08849801  [6,]  0.39840670  [7,]  0.33252190  [8,]  0.33573579  [9,]  0.38555113

从图表中可以看到,每个输入节点的权重分别为0.71174和0.39118,偏置节点的权重为-0.0891。

我需要指定什么才能将输出限制为正值?


回答:

默认情况下,act.fct仅应用于隐藏层。如果你也希望它影响输出层 – 你需要设置linear.output = FALSE

来自文档

act.fct 是一个可微分的函数,用于平滑协变量或神经元与权重的交叉乘积的结果。此外,字符串’logistic’和’tanh’可用于逻辑函数和双曲正切函数。

linear.output logical如果act.fct不应应用于输出神经元,则将linear output设置为TRUE,否则设置为FALSE。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注