我正在尝试使用Weka中的SMO分类器和RBFKernel来训练大约30,000个实例。我使用网格搜索来寻找参数C和gamma的最佳值。以下是我的配置:
weka.classifiers.meta.GridSearch -E ACC -y-property classifier.kernel.gamma -y-min -10.0 -y-max 5.0 -y-step 1.0 -y-base 10.0 -y-expression pow(BASE,I) -filter weka.filters.AllFilter -x-property classifier.c -x-min 5.0 -x-max 20.0 -x-step 1.0 -x-base 10.0 -x-expression I -sample-size 100.0 -traversal COLUMN-WISE -num-slots 1 -S 1 -W weka.classifiers.functions.SMO -- -C 1.0 -L 0.0010 -P 1.0E-12 -N 0 -V -1 -W 1 -K "weka.classifiers.functions.supportVector.RBFKernel -C 250007 -G 0.01"
我让它运行了超过9个小时却没有结果,Weka的状态信息一直显示为“正在训练数据上构建模型…”。起初我以为是网格搜索的问题,但当我尝试使用C和gamma的默认值进行训练而不进行网格搜索时,得到的结果相同。我尝试使用PolyKernel代替,结果分类器在几秒钟内就完成了训练(但在网格搜索中不行)。
如何让RBFKernel正常工作(使用默认值和在网格搜索中)?
回答:
以下是我找到的有效方法:
- 使用对数步长
XExpression = pow(BASE,I)
,XMin = -5
,XMax = 5
,XStep = 1
和XBase = 10
(Y参数同理)。 - 使用过滤器 对于我的需求,我使用了
DistributionBasedBalance
过滤器,并将p
设置为某个值。 - 增加执行槽的数量 我将
numExecutionSlots
设置为4(我的机器的核心数)。