GridSearchCV在Windows上使用任何n_jobs时冻结

我目前在使用scikit learn库中的GridSearchCV方法时遇到了麻烦。我已经为此挣扎了一个星期,仍然无法解决。当我调用它来优化线性SVM的C参数时,它总是会冻结。奇怪的是,不仅在设置n_jobs=-1时会发生这种情况,即使设置n_jobs=1也会发生,所以我认为多处理不是特别的问题。此外,当我输入形状为(2448, 1024)的X数组时,它运行良好,但当我输入形状为(5202, 1024)的数组时,它完全会冻结。

我输入的数据:形状从(2448, 1024)到(7956, 1024)不等的float64 numpy数组,其中(2448, 1024)的数组运行良好

我已经尝试过的方法:

由于我在Windows上运行代码,因此无法运行https://github.com/dmlc/xgboost/issues/2163#issuecomment-314524070中建议的以下代码:

from multiprocessing import pool, get_contextforkserver = get_context('forkserver')p = forkserver.Pool()

需要注意的是:我使用f1函数而不是默认的准确性函数来进行拟合,这可能是一个问题,如下面的讨论中所见:

以下是一些代码片段:

 from sklearn.externals.joblib import parallel_backend scaler = StandardScaler() X = scaler.fit_transform(fv_train.data) #traininig samples y = fv_train.axes[0] #class labels X_train, X_valid, y_train, y_valid = train_test_split(X, y, test_size = 0.1, train_size = 0.9)clf = SVC(kernel = 'linear', probability=True)scoring = ['f1']C_range = np.linspace(start=1000, stop=10000, num=4, endpoint = True)param_grid = dict(C = C_range)grid = GridSearchCV(clf, param_grid = param_grid, scoring = scoring, cv = 3,                    refit = 'f1', verbose = 42, n_jobs=-1, pre_dispatch=3)with parallel_backend('threading'):    grid.fit(X_train, y_train)

回答:

尝试在__name__ == '__main__'中指定您的代码,从Windows命令行运行,但不使用parallel_backend语句。指定GridSearchCV的n_jobs应该可以自行处理多处理。

clf = SVC(kernel = 'linear', probability=True)scoring = ['f1']param_grid = {'C': np.linspace(start=1000, stop=10000, num=4, endpoint = True)}grid = GridSearchCV(clf, param_grid = param_grid, scoring = scoring, cv = 3,                refit = 'f1', verbose = 42, n_jobs=-1, pre_dispatch=3)grid.fit(X_train, y_train)

打开Windows任务管理器,查看运行时的状态。查看您的CPU百分比、RAM和Windows进程。通常,您希望看到的是您的CPU使用率非常高,并且您应该在进程列表中看到多个名为Python的进程。它可能会因为您使用了满负荷的CPU而冻结。

另一种可能性是n_jobs尚未为f1评分实现。您可以尝试像这样不使用n_jobs语句运行您的代码:

clf = SVC(kernel = 'linear', probability=True)scoring = ['f1']param_grid = {'C': np.linspace(start=1000, stop=10000, num=4, endpoint = True)}grid = GridSearchCV(clf, param_grid = param_grid, scoring = scoring, cv = 3,                refit = 'f1', verbose = 42, pre_dispatch=3)grid.fit(X_train, y_train)

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注