在cs231n的讲义中这里提到
新的数据集较小且与原始数据集相似。由于数据量小,考虑到过拟合的问题,不建议对卷积神经网络进行微调…因此,最好的方法可能是对CNN代码训练一个线性分类器。
我不确定线性分类器是什么意思。线性分类器是否指的是最后一个全连接层?(例如,在Alexnet中,有三个全连接层。线性分类器是否指最后一个全连接层?)
回答:
通常当人们说“线性分类器”时,他们指的是线性SVM(支持向量机)。线性分类器学习一个权重向量w
和一个阈值(也称为“偏置”)b
,使得对于每个样本x
,
<w, x> + b
的符号对于“正”类是正的,对于“负”类是负的。
神经网络的最后一层(通常是全连接层)可以被视为一种形式的线性分类器。