将logit函数的输出作为神经网络的附加输入

这涉及到在二元分类问题中,ANN(人工神经网络)和逻辑回归的混合模型。例如,我在一篇论文中看到这样的描述:“通过使用逻辑回归模型计算失败的概率,然后将该值作为附加输入变量加入到ANN中,构建了一种混合模型类型。这种模型被定义为Plogit-ANN模型”。

因此,对于n个输入变量,我试图理解附加输入n+1是如何被激活函数(例如logit函数)处理的,以及在权重与输入相乘的总和中是如何处理的。我们是否可以将这个概率变量n+1视为一个独立的权重,就像一种特殊类型的b0,我们在权重与输入相乘的总和中加入它,例如每个神经元的总和 =(权重与输入的总和)+附加变量。

感谢您的帮助。


回答:

根据提供的描述,最简单的方法是将其视为数据的附加特征。所以你有一个模型来预测原始数据集的某些信息(某些附加事物的概率),因此你得到x -> f(x)。你只需将它连接到你的特征向量中,所以x’ = [x1 x2 … xk f(x)],然后通过网络传递它。

然而,所描述的方法相当简单,因为你完全独立地进行这两件事(训练f和训练神经网络),更有益的方法可能是将f的拟合视为辅助损失,并联合训练你的模型。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注