我正在处理MNIST 数字识别数据集
这里,我有10个类别标签,我希望构建并比较所有类别的组合,即运行10c2个逻辑回归模型并进行比较。我知道我可以使用combn(unique(mnist$label), 2, function(x) , simplify = TRUE)
在一个循环中,并在函数中编写模型。但我在这里卡住了。
loglist <- list()for(i in unique(mnist$label)){ tmp <- try(append(loglist, glm(label~.,family=binomial(link=logit), data = mnist[mnist$label == i, ]))) if (class(tmp) != "try-error") loglist <- append(loglist, tmp)}
任何帮助或建议都将非常有帮助,谢谢你。
回答:
有三种方法可以使用逻辑回归模型来处理多个类别(在你的例子中是10个类别)。
- 一对其余
- 一对一
这两种方法在维基百科上有很好的解释,并且Andrew NG有很好的视频讲座。
另一种方法是使用Softmax回归,可以在给定的链接中找到很好的教程。这种模型将逻辑回归推广到类别标签y可以取多个可能值的分类问题中。
那么,什么时候使用哪种模型:
这将取决于四个类别是否互斥。例如,如果你的四个类别是古典、乡村、摇滚和爵士乐,那么假设你的每个训练样本都标记有这四个类别标签中的一个,你应该构建一个Softmax分类器。
然而,如果你的类别是has_vocals、dance、soundtrack、pop,那么这些类别不是互斥的;例如,可以有一首流行音乐来自于电影原声带,并且还有人声。在这种情况下,构建4个二元逻辑回归分类器会更合适。这样,对于每首新音乐,你的算法可以分别决定它是否属于这四个类别中的每一个。