我使用反向传播算法训练了一个神经网络。我手动运行了网络30次,每次都改变输入和期望的输出。结果是一个传统的分类器。
我尝试了3种不同的分类。由于我对每个类别运行了网络30次,每次使用10个输入,我最终得到了3组不同的权重,但同一分类下的权重非常相似,误差非常小。因此,网络已经证明自己成功地学习了。
我的问题是,现在学习已经完成,我有了3种不同类型的权重(每种分类一种),我如何在常规的前馈网络中使用这些权重,以便它可以自动分类输入。我搜索了一些资料,看看是否可以对权重进行某种平均处理,但看起来这是不可能的。有些人提到引导数据的方法:
我在反向传播学习过程中是否做错了什么?还是在学习过程之后需要对这些不同类别的不同权重进行额外的步骤处理?
我设想的一种方法是实现一个常规的前馈网络,该网络将包含这3种类型的权重。将有3个输出,对于任何给定的输入,其中一个输出神经元将被激活,这将导致给定的输入被映射到特定的类别。
网络架构如下:
3个输入,2个隐藏神经元,1个输出神经元
提前感谢
回答:
如果你每次只在神经网络中训练一个类别,这是没有意义的,因为隐藏层可以进行权重组合来“学习”输入数据可能属于哪个类别。单独学习会使权重独立。如果给定一个新的测试输入,网络将不知道使用哪个学习过的权重。
使用一个向量作为输出来表示这三个不同的类别,并一起训练数据。
编辑附言,我认为你提供的链接帖子与你的情况无关。那个帖子的问题源于神经网络训练中不同权重的初始化(随机)。有时候人们会应用一些种子方法来使权重学习可重现,以避免此类问题。