支持向量机的VC维度与其支持向量的数量有何关联?是否有公式将这两个量联系起来?
回答:
VC维度(Vapnik Chervonenkis维度)的命名来源于Vapnik和Chervonenkis(1968, 1971)和Vapnik(1979)。它用于测量假设空间的容量。容量是复杂性的一种度量,用于评估一组函数的表达能力、丰富性或灵活性,通过评估其成员的“摆动”程度。Sewell(2006)
换句话说,它显示了模型可以完美分类的最大样本数。
另一方面,支持向量是定义超平面的点。虽然它可能与VC维度有些关联,但两者之间没有确立的明确映射关系。
实际上,对于非线性分类器来说,实际的VC维度并不容易获得(对于线性分类器,它是n+1)。这里有一篇名为Ellipsoidal Kernel Machines的论文,尝试使用容差分类器来估算支持向量机的维度,但我认为这远没有达到你希望看到的明确关系。