支持向量机在我的数据上过拟合了

我在尝试对鸢尾花数据集进行预测。我决定使用支持向量机来完成这个任务。但是,它给我了一个1.0的准确率。这是过拟合的情况还是因为模型非常好?这是我的代码。

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=0)svm_model = svm.SVC(kernel='linear', C=1,gamma='auto')svm_model.fit(X_train,y_train)predictions = svm_model.predict(X_test)accuracy_score(predictions, y_test)

这里,accuracy_score返回了一个1的值。请帮助我。我是机器学习的新手。


回答:

您可以尝试使用交叉验证

示例:

from sklearn.model_selection import LeaveOneOutfrom sklearn import datasetsfrom sklearn.svm import SVCfrom sklearn.model_selection import cross_val_score#加载鸢尾花数据iris = datasets.load_iris()X = iris.dataY = iris.target#构建模型svm_model = SVC( kernel ='linear', C = 1, gamma = 'auto',random_state = 0 )#创建交叉验证对象loo = LeaveOneOut()#计算交叉验证(留一法)的准确率分数scores = cross_val_score(svm_model, X,Y, cv = loo, scoring='accuracy')print( scores.mean() )

结果(因为我们使用了留一法,所以是150个折叠的平均准确率):

0.97999999999999998

结论:

交叉验证(特别是LeaveOneOut)是避免过拟合并获得稳健结果的好方法。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注