这涉及到在二元分类问题中,ANN(人工神经网络)和逻辑回归的混合模型。例如,我在一篇论文中看到这样的描述:“通过使用逻辑回归模型计算失败的概率,然后将该值作为附加输入变量加入到ANN中,构建了一种混合模型类型。这种模型被定义为Plogit-ANN模型”。
因此,对于n个输入变量,我试图理解附加输入n+1是如何被激活函数(例如logit函数)处理的,以及在权重与输入相乘的总和中是如何处理的。我们是否可以将这个概率变量n+1视为一个独立的权重,就像一种特殊类型的b0,我们在权重与输入相乘的总和中加入它,例如每个神经元的总和 =(权重与输入的总和)+附加变量。
感谢您的帮助。
回答:
根据提供的描述,最简单的方法是将其视为数据的附加特征。所以你有一个模型来预测原始数据集的某些信息(某些附加事物的概率),因此你得到x -> f(x)。你只需将它连接到你的特征向量中,所以x’ = [x1 x2 … xk f(x)],然后通过网络传递它。
然而,所描述的方法相当简单,因为你完全独立地进行这两件事(训练f和训练神经网络),更有益的方法可能是将f的拟合视为辅助损失,并联合训练你的模型。