2个神经元的多层神经网络是否与1个神经元相同

AND逻辑和OR逻辑可以仅用1个神经元解决。然而,XOR逻辑需要一个由2层3个神经元组成的人工神经网络:

(neuron1)\          \           +----- (neuron3)          /(neuron2)/

考虑这种形式的神经网络:

(neuron1) ------- (neuron2)

这种仅有2个神经元相互连接的神经网络,是否比单个神经元能更好地解决问题?


回答:

2个神经元可能比1个神经元更强大。

例如,考虑两个使用标准整流非线性 max(0,x)的神经元。

设输入为x。

第一个神经元计算y=max(0,x)

第二个神经元计算z=max(0,1-y)

图表展示了y(绿色)、1-y(红色)、z(蓝色)随x的变化情况。

enter image description here

这表明两个神经元都使用简单的整流器,可以构建一个更复杂的饱和非线性(由蓝线表示)。

单个整流神经元对单一输出进行操作,无法产生蓝线(因为所有此类输出最多有两个线性段,而我们的z输出有三个线性段)。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注