深度学习与传统人工神经网络机器学习有何区别?

您能简要解释一下深度学习与使用神经网络的传统机器学习之间的区别吗?需要多少层才能使神经网络成为“深度”的?这是否只是营销炒作?


回答:

我不同意@【隐藏人名】的回答。我不明白他所说的对隐藏层进行无监督学习程序是什么意思。

深度学习指的是通常具有超过2到3个隐藏层的神经网络模型。大多数深度学习模型拥有10到100个或更多的层。

深度学习模型最近的革命依赖于两件事:
1. 大量数据的可用性——这是互联网时代的产物
2. GPU的可用性

用于优化深度学习模型的算法称为反向传播算法(在数学上等同于梯度下降)。反向传播实际上至少从80年代就已经存在——它并不是深度学习特有的东西。

由于模型的复杂性和规模,深度学习模型通常需要大量的数据。它们通常拥有数百万可调节的权重参数。优化需要高计算能力,因为训练数据的规模和每次迭代需要计算的数百万个偏导数(相对于权重)。

本质上,深度学习并不是营销炒作。它是一个大型多层神经网络模型,需要大量数据和强大的GPU来训练。一旦训练完成,它们在某些任务上能达到超人的准确度。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注