事实:
-
支持向量机是一种广为人知的机器学习算法。
-
MNIST 是一个流行的手写数字识别竞赛。
-
支持向量机的表现几乎可以与人工调整的 neural networks 相媲美。
-
在使用支持向量机时,选择核函数至关重要。
问题:
-
在使用支持向量机对 MNIST 进行最先进的结果研究中,人们使用了哪些核函数?
-
假设输入是 16×16 的灰度图像。
-
我想知道应该应用什么样的核函数 $K(x,z)$,其中 x/z 是 16×16 的图像,$K$ 是核函数。
谢谢!
回答:
请查看 http://yann.lecun.com/exdb/mnist/ 中的支持向量机部分。你会发现使用高斯和多项式核的支持向量机可以获得竞争性的结果,错误率低于1.5%。
如果你想超越这个结果,那么你需要创建所谓的虚拟样本(例如旋转、移动、扭曲数字)并添加额外的归一化处理。