权重负责什么?

我在阅读谷歌的机器学习速成课程时有一个问题。什么是权重?(我理解这是图表中的斜率,但这并不符合我的理解)

我还不明白权重对模型预测的影响(例如,在这个游乐场中)

非常感谢您的帮助。


回答:

模型中的每一层都是一个包含许多“未知”变量的巨大数学函数。

当你构建模型时,你是在构建一个怪物函数(包含数千或数百万个未知变量),它从输入生成输出。

有点像这样:

output_tensor = huge_function(your_input_tensor,var1,var2,var3,var4.......,var10000000)

这些变量就是权重。开始时,它们被赋予随机值,显然你的函数会给出糟糕的结果。

随着训练的进行,你会调整这些变量的值,使结果得到改善。

权重就是这些变量,即你将调整的模型中的变量,以便你的巨大函数能给你带来好的结果。

权重与偏置

根据你所阅读的内容或所使用的程序,它们会被称为权重。根据我上面所写的,这两者都符合描述。

但通常来说:

  • 权重 – 乘以输入
  • 偏置 – 加到乘积输出上

所以,通常的层(当然有一些重要的区别)会执行这样的操作:

output_matrix = input_matrix x weights + biases 

然而,没有什么能阻止你创建自定义操作,其中你的变量/权重既不乘也不加。

Related Posts

多维度Top-k评分

例如,在机器学习中的自然语言处理中,通常使用波束搜索来…

R – Caret train() “错误:停止” 与 “在newdata中未找到对象中使用的所有变量名”

我正在尝试为蘑菇数据构建一个简单的朴素贝叶斯分类器。我…

创建训练和测试数据集分割,数据嵌套在多个文件夹中

我正在准备数据以训练一个图像识别模型。目前我有一个文件…

我的神经网络预测出现错误:IndexError: list index out of range

我正在进行一个简单的垃圾邮件/非垃圾邮件文本分类。我的…

python 给出数组是一维的,但索引了两个维度错误

我已经为 miniBatchGradientDesce…

TensorFlow自定义训练步骤使用不同的损失函数

背景 根据TensorFlow文档,可以使用以下方式执…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注