Python的sklearn中DecisionTreeClassifier和SVM的区别?

我刚开始学习机器学习,特别是分类技术。

我在网上阅读了一些教程,并且使用了鸢尾花数据集。我尝试将数据集分为训练集和测试集,使用了以下代码:

train, test = train_test_split(df,                               test_size=test_size,                               train_size=train_size,                               random_state=random_state)

随后,我找到了两种拟合模型的方法(DecisionTreeClassifier 和 SVM):

dt = DecisionTreeClassifier(min_samples_split=20, random_state=99)clf = svm.SVC(kernel='linear', C=1)

这两个模型都允许我使用 .fit() 和 .score() 方法。我尝试了不同大小和随机状态的重新采样数据,但使用这两个模型得到的分数完全相同,都是0.9852。我做错了什么吗?

另外,有没有必要像这里所说的那样将我的目标变量(“类别”)转换为数值?我尝试过使用原始的字符串值来拟合数据框,结果是一样的。任何帮助都将不胜感激!


回答:

正确使用 train_test_split 的方法如下所示:

from sklearn.datasets import load_irisfrom sklearn.model_selection import train_test_splitfrom sklearn.model_selection import cross_val_scorefrom sklearn.tree import DecisionTreeClassifierfrom sklearn.svm import SVCfrom sklearn.metrics import accuracy_score#加载鸢尾花数据,X: 特征,y: 目标/标签df = load_iris()y = df.targetX = df.data#分割数据X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.4, random_state= 99)#拟合两个分类器dt = DecisionTreeClassifier(min_samples_split=20, random_state=99)clf = SVC(kernel='linear', C=1)dt.fit(X_train, y_train)y_predicted_dt = dt.predict(X_test)scores_dt = accuracy_score(y_test, y_predicted_dt)print(scores_dt)clf.fit(X_train, y_train)y_predicted_clf = clf.predict(X_test)scores_clf = accuracy_score(y_test, y_predicted_clf)print(scores_clf)

结果:

#dt分类器的准确率0.933333333333#clf分类器的准确率0.983333333333

结论:

在你的情况下,你只将 df 作为 X 传递给了 train_test_split

你不需要转换类别。只需使用 accuracy_scorecross_val_score 函数即可。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注