我在使用SVC模型进行分类时,每次更改参数值(svc__gamma, svc__kernel 和 svc__C)都会得到不同的准确率结果。我查阅了Sklearn的文档,但无法理解这些参数的含义。我有三个问题:
- 这些参数分别表示什么?
- 每次更改它们时,它们如何影响准确率?
- 正确的参数值是什么?
准确率结果是0.70,但是当我删除svc__gamma和svc__C后,结果增加到0.76。
pipe = make_pipeline(TfidfVectorizer(), SVC())param_grid = {'svc__kernel': ['rbf', 'linear', 'poly'], 'svc__gamma': [0.1, 1, 10, 100], 'svc__C': [0.1, 1, 10, 100]}svc_model = GridSearchCV(pipe, param_grid, cv=3)svc_model.fit(X_train, Y_train)prediction = svc_model.predict(X_test)print(f"Accuracy score is {accuracy_score(Y_test, prediction):.2f}")print(classification_report(Y_test, prediction))
回答:
关于问题1.
- gamma是高斯钟形曲线的一个参数,因此它应该只影响RBF(高斯核)
- C是优化问题的参数,是拉格朗日乘数的倒数
关于问题2.
- 要完全理解它们如何影响准确率,需要熟悉相关的数学背景(附注:准确率通常不是可靠的衡量标准,这取决于具体情况)
关于问题3.
- 没有所谓的“正确”参数。它们取决于具体情况、数据以及你希望达到的目标。通常在算法对测试数据和新数据的表现之间存在权衡(过拟合与欠拟合)
希望这对你有所帮助,作为第一步 🙂 如需进一步信息,我建议查看SVM的相关内容。