如果我使用rbf
作为核函数,那么需要调整两个参数(c
和g
)。我可以搜索每一个参数对(ci
,gi
),并选择最佳对。是否有更好的方法来找到最佳参数。
回答:
关于核宽度选择的博客中的亮点:
随机从你的数据集中选择1000对(x,x’),计算所有这些对的距离,并取中位数、0.1和0.9分位数。现在选择λ为这三个数中任意一个的倒数。通过少量的交叉验证,你将找出这三个中哪个是最好的。在大多数情况下,你不需要进一步搜索。
此外,来自cross validated的这篇文章分析了这种方法为何有效的理由。基本上避免了改变所有或仅一个数据点的决策函数。
此外,你可以搜索SVM中参数选择的“启发式方法”。例如,在M.Boardman等人关于支持向量机自由参数优化的启发式方法中,作者应用了模拟退火来提高参数搜索效率,相较于详尽的网格搜索。