选择正确的神经网络类型

我有一个监督学习问题,我的算法将会被赋予一系列的训练样本,用于学习一个形状是圆形还是正方形。我想知道哪种ANN(人工神经网络)类型是最好的。我知道如果数据是线性可分的,可以选择感知器。但我肯定可以很容易地找到一个超平面来划分我的正方形和圆形吗?所以感知器不是一个足够好的选择吗?然而,多层前馈网络不是更常用吗?什么是自然的选择,为什么?

下图显示了提供给系统的训练数据。神经网络需要将二维数据 A=[a1,a2] 分类为正方形和圆形。

enter image description here

谢谢。


回答:

你提供的数据集在 a1 和 a2 构成的空间中不是线性可分的,因此感知器无法胜任。你需要一个多层感知器 (MLP)。一般来说,MLP 更常被使用,因为它们可以做单层感知器能做的所有事情(查阅万能近似定理)。

径向基函数 (Radial-basis function) 也能完成这项工作。

@某人 提到了一个有趣但复杂得多的事情:如果将数据集投影到一个非常非常高维的空间,那么它很可能会变成线性可分的(Cover 定理)。 这是使用支持向量机的动机。

总而言之,没有自然的选择,这完全取决于具体问题。 实验是关键。我的一位讲师曾经说过“交叉验证是你的朋友”。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注