我有一个监督学习问题,我的算法将会被赋予一系列的训练样本,用于学习一个形状是圆形还是正方形。我想知道哪种ANN(人工神经网络)类型是最好的。我知道如果数据是线性可分的,可以选择感知器。但我肯定可以很容易地找到一个超平面来划分我的正方形和圆形吗?所以感知器不是一个足够好的选择吗?然而,多层前馈网络不是更常用吗?什么是自然的选择,为什么?
下图显示了提供给系统的训练数据。神经网络需要将二维数据 A=[a1,a2] 分类为正方形和圆形。
谢谢。
回答:
你提供的数据集在 a1 和 a2 构成的空间中不是线性可分的,因此感知器无法胜任。你需要一个多层感知器 (MLP)。一般来说,MLP 更常被使用,因为它们可以做单层感知器能做的所有事情(查阅万能近似定理)。
径向基函数 (Radial-basis function) 也能完成这项工作。
@某人 提到了一个有趣但复杂得多的事情:如果将数据集投影到一个非常非常高维的空间,那么它很可能会变成线性可分的(Cover 定理)。 这是使用支持向量机的动机。
总而言之,没有自然的选择,这完全取决于具体问题。 实验是关键。我的一位讲师曾经说过“交叉验证是你的朋友”。