我在阅读谷歌的机器学习速成课程时有一个问题。什么是权重?(我理解这是图表中的斜率,但这并不符合我的理解)
我还不明白权重对模型预测的影响(例如,在这个游乐场中)
非常感谢您的帮助。
回答:
模型中的每一层都是一个包含许多“未知”变量的巨大数学函数。
当你构建模型时,你是在构建一个怪物函数(包含数千或数百万个未知变量),它从输入生成输出。
有点像这样:
output_tensor = huge_function(your_input_tensor,var1,var2,var3,var4.......,var10000000)
这些变量就是权重。开始时,它们被赋予随机值,显然你的函数会给出糟糕的结果。
随着训练的进行,你会调整这些变量的值,使结果得到改善。
权重就是这些变量,即你将调整的模型中的变量,以便你的巨大函数能给你带来好的结果。
权重与偏置
根据你所阅读的内容或所使用的程序,它们会被称为权重。根据我上面所写的,这两者都符合描述。
但通常来说:
- 权重 – 乘以输入
- 偏置 – 加到乘积输出上
所以,通常的层(当然有一些重要的区别)会执行这样的操作:
output_matrix = input_matrix x weights + biases
然而,没有什么能阻止你创建自定义操作,其中你的变量/权重既不乘也不加。