浅层多层网络的输出,每个神经元使用线性激活函数,是权重的线性函数 -> 错误?

谁能向我证明为什么上述句子是错误的?我感觉由于都是线性单元,我总是可以写出W(线性) = Y,对于任何W,但老师说这是错误的,并引用了一位学生的话说:

该浅层网络的输出y是y=sum(v)* sum(wTx +b),因此我们在输出中看到了权重v和w的乘积。因此,输出相对于权重是非线性的

谁能更精确/分析一些吗?


回答:

考虑以下神经网络:

x1 --  h1   \/     \ y   /\     /x2 --  h2

对应以下方程:

h1 = w11 x1 + w12 x2h2 = w21 x1 + w22 x2y = v1 h1 + v2 h2

这里的权重是 w11, w12, w21, w22, v1, v2

结合这三个方程,我们得到:

y = v1 w11 x1 + v1 w12 x2 + v2 w21 x1 + v2 w22 x2

因此我们可以说 y(w11, w12, w21, w22) 和 (v1, v2)双线性函数,但我们不能说 y(w11, w12, w21, w22, v1, v2)线性函数。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注