是否有方法根据参数和数据集来预测运行scikit-learn分类器所需的时间?我知道,这听起来很玄乎,对吧?
有些分类器/参数组合运行速度很快,而有些则耗时过长,以至于我最终不得不终止进程。我希望能提前估算出运行所需的时间。
或者,我愿意接受一些关于如何设置常用参数以减少运行时间的建议。
回答:
有一些非常具体的分类器或回归器类别可以直接报告算法的剩余时间或进度(如迭代次数等)。大多数情况下,可以通过在各个模型的构造函数中传递verbose=2
(任何大于1的数字)选项来开启这些功能。注意:这种行为是基于sklearn-0.14版本的。早期版本的详细输出略有不同(但仍然有用)。
这方面的典型例子是ensemble.RandomForestClassifier
或ensemble.GradientBoostingClassifier
,它们会打印已构建的树的数量和剩余时间。
clf = ensemble.GradientBoostingClassifier(verbose=3)clf.fit(X, y)Out: Iter Train Loss Remaining Time 1 0.0769 0.10s ...
或者
clf = ensemble.RandomForestClassifier(verbose=3)clf.fit(X, y)Out: building tree 1 of 100 ...
这些进度信息对于估算总时间非常有用。
然后,还有一些模型如SVM会打印已完成的优化迭代次数,但不直接报告剩余时间。
clf = svm.SVC(verbose=2)clf.fit(X, y)Out: * optimization finished, #iter = 1 obj = -1.802585, rho = 0.000000 nSV = 2, nBSV = 2 ...
据我所知,线性模型等不提供此类诊断信息。
要了解详细级别的含义,请查看此线程:scikit-learn fit remaining time