进化算法和神经网络是否用于相同的领域?

我正在尝试了解各种机器学习算法类别之间的区别。

我知道进化算法的实现与神经网络的实现截然不同。

但是,它们似乎都旨在确定来自潜在嘈杂的训练/历史数据集中输入和输出之间的相关性。

从定性的角度来看,是否存在神经网络比进化算法更适合的目标问题领域?

我浏览了一些文章,建议以互补的方式使用它们。 是否有这方面的一个不错的用例示例?


回答:

问题的关键在于:在机器学习问题中,通常有两个组成部分:

a) 模型(函数类等)

b) 拟合模型的方法(优化算法)

神经网络是一种模型:给定一个布局和一组权重,神经网络产生一些输出。 存在一些拟合神经网络的典型方法,例如反向传播、对比散度等。 但是,神经网络的重点是,如果有人给你“正确”的权重,你就可以在问题上做得很好。

进化算法解决了第二部分——拟合模型。 同样,有一些与进化算法相关的典型模型:例如,进化编程通常尝试优化特定类型的所有程序。 然而,EA 本质上是找到特定模型的正确参数值的一种方法。 通常,您编写模型参数的方式使得交叉操作是一件合理的事情,然后使用 EA 来获得合理的参数设置。

现在,例如,你可以使用进化算法来训练神经网络,我相信已经有人这样做了。 但是,EA 需要工作的关键在于交叉操作必须是一件合理的事情——通过从一个合理的设置中取一部分参数,然后从另一个合理的设置中取其余部分参数,你通常会得到一个更好的参数设置。 在大多数情况下,EA 的使用并非如此,最终它变得像模拟退火一样,只是更加令人困惑和效率低下。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注