对于所有版本的SVM，如c-svm、v-svm、软间隔svm等，支持向量可以不是训练样本吗？

回答：

不可以。支持向量总是训练集中的一个样本。

这是一件好事，因为这意味着SVM对其样本及其支持向量的内部结构是无知的。只有与SVM本身分离的核函数需要了解样本的结构。虽然大多数核函数作用于数值向量，但也存在作用于字符串、树、图等的核函数。

（请注意，线性支持向量机可以在不考虑支持向量的情况下进行训练。即，当你使用诸如SGD的算法在铰链损失下训练线性模型，并使用适当的正则化时，你得到的模型相当于使用线性核的SVM，但其中的支持向量是隐式的。）