能否使用Vowpal Wabbit库训练一个多类（多项式）的线性分类模型？

我尝试使用–oaa和–loss_function squared，但似乎–oaa的默认损失函数是logistic。

我使用的是rcv1.multiclass作为输入。

一个解决方案：

我可以创建数据的多个版本，如下所示：

版本i：将所有标签设为零，除了类别I

然后我可以为每个版本的数据训练多个二元分类。最后，我可以将测试数据输入到所有分类器中并应用argmax。有没有更好的（自动化）解决方案？

回答：

当你使用vw --oaa N时，你实际上会得到一个线性的N类分类器。要获得非线性分类器，你需要添加二次/多项式特征（-q, --cubic, --interactions）或核函数（--ksvm）或隐藏层（--nn）或任何其他非线性降维（--lrq, --stage_poly, --autolink）。

损失函数的选择不会影响分类器是否为线性。默认设置是--loss_function=squared。对于分类，我建议使用--loss_function=logistic（如果您想预测每个类的概率，可能需要加上--probabilities）或--loss_function=hinge（如果您只关心最高类）。

然后我可以为每个版本的数据训练多个二元分类。最后，我可以将测试数据输入到所有分类器中并应用argmax。有没有更好的（自动化）解决方案？

是的，这正是--oaa所做的（但更有效）。