为什么神经网络需要权重和偏置?

关于神经网络,为什么我们需要权重和偏置?

对于权重,我的直觉是我们试图将某些常数乘以输入,以便我们能够达到y的值并了解关系,有点像y = mx + c。如果可能的话,请帮助我解释这个直觉。


回答:

我想对来自这个网站的Jed Fox的回答表示感谢,我已经调整了他的解释。这是一个很好的神经网络入门!:

https://github.com/cazala/synaptic/wiki/Neural-Networks-101

调整后的回答:

网络中的神经元基于自然界中发现的神经元。它们接收信息,并根据这些信息引发某种反应。一个“激活”。

人工神经元看起来像这样:

神经元J神经元j

人工神经元

如您所见,它们有多个输入,每个输入都有一个权重(该特定连接的权重)。当人工神经元激活时,它通过将所有传入的输入乘以相应的连接权重来计算其状态。但是,神经元总是有一个额外的输入,即偏置,始终为1,并且有自己的连接权重。这确保了即使所有输入均为零(全为0),神经元中也会有激活。

在计算其状态后,神经元将其传递通过其激活函数,该函数对结果进行归一化(通常在0-1之间)。

这些权重(有时还有偏置)是我们在神经网络中学习的内容。可以将它们视为系统的参数。没有它们,神经网络将毫无用处!

额外评论:在一个网络中,这些加权输入可能来自其他神经元,因此您可以开始看到权重也描述了神经元之间的关系,通常表示两个神经元之间关系的重要性。

希望这对您有帮助。互联网上有很多更多的信息,上面的链接也提供了更多信息。考虑阅读一些斯坦福大学关于卷积神经网络的材料,了解更多复杂的神经网络。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注