我有一个关于分类器概念的问题。
情况1
如果我有一个分类器,其性能达到90%,然后我创建了n个使用相同算法和相同数据集的另一个分类器,性能也达到90%。
情况2
与情况1相同,但每个分类器使用不同的算法。
结合结果
我从以下结果中获得
mode(classifier1,classifier2,classifier3,...,classifiern)
这种技术是否值得使用还是无用(对于情况1和情况2)?
回答:
情况1和情况2都被称为集成学习。两者都值得使用。
对于情况1:请注意,即使是具有相同架构、相同学习算法但初始权重不同的神经网络,其性能也可能非常不同。
类似于情况1(采用平均值而不是众数)的方法是Schmidhubers的平均集成。我在我的硕士论文中发布了一些使用各种数据集和网络架构的结果(例如表5.2、表5.8、表5.9、表5.11、5.13等)。