sklearn multiclass svm 函数

我有多个类别的标签,想计算我模型的准确率。
我对需要使用哪个 sklearn 函数感到有些困惑。据我所知,下面的代码仅用于二元分类。

# 将X, y分为训练和测试数据
X_train, X_test, y_train, y_test = train_test_split(X, y,  test_size=0.25,random_state = 0)
# 训练一个线性SVM分类器
from sklearn.svm import SVC
svm_model_linear = SVC(kernel = 'linear', C = 1).fit(X_train, y_train)
svm_predictions = svm_model_linear.predict(X_test)
# 计算X_test的模型准确率
accuracy = svm_model_linear.score(X_test, y_test)
print accuracy

根据以下链接的理解:使用 OneVsRestClassifier 时,sklearn.svm.SVC 的 decision_function_shape 应选择哪种?

对于多类别分类,我应该使用 OneVsRestClassifier 并设置 decision_function_shape(使用 ovrovo,并检查哪种效果更好)

svm_model_linear = OneVsRestClassifier(SVC(kernel = 'linear',C = 1, decision_function_shape = 'ovr')).fit(X_train, y_train)

主要问题是预测标签的时间对我很重要,但运行分类器并预测数据需要大约1分钟(此时间还包括像PCA这样的特征降维的时间)?有什么建议可以减少SVM多分类器的时间吗?


回答:

这里有几点需要考虑:

1) 你看,OneVsRestClassifier 会将所有标签分开,并在给定数据上训练多个svm对象(每个标签一个)。所以每次,只会向单个svm对象提供二元数据。

2) SVC 内部使用 libsvmliblinear,它们对于多类别或多标签输出采用 ‘OvO’ 策略。但由于第1点,这个点没有用。因为 libsvm 只会得到二元数据。

即使它确实如此,它也不考虑 'decision_function_shape'。因此,无论你提供 decision_function_shape = 'ovr' 还是 decision_function_shape = 'ovr' 都没有关系。

所以看起来你对问题理解有误。decision_function_shape 不应该影响速度。尝试在拟合前标准化你的数据。SVM 对标准化数据表现良好。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注