量化机器学习方法的性能

我刚开始学习机器学习,并且刚刚完成了我的第一个方法(随机森林)的实现。现在我想分析这个方法的准确性。我使用的第一个性能指标是计算正确预测的数量,使用以下公式:

准确率 = 正确预测数 / 总预测数 * 100

现在,我想预测一个变量,其值为10。我的大部分预测结果介于10之间(例如0.85, 0.45, 0.95等),因此这些预测不被视为正确预测——使用上述公式计算出的准确率为0.42%。我知道我做了一些非常愚蠢和错误的事情。我应该将预测值四舍五入到最接近的整数,然后再计算指标吗?

另外,我运行了一个AUC测试,结果准确率为81%


回答:

验证模型准确性的一种好方法是使用验证集方法(看起来你已经在这样做了)或交叉验证(K折),更多信息请参见:

https://en.wikipedia.org/wiki/Cross-validation_(statistics)https://en.wikipedia.org/wiki/Training,_test,_and_validation_sets

至于变量,这似乎是一个分类问题(你的输出变量可以是0或1)。

因此,一个好的方法是使用返回0或1的分类器(而不是中间值)。如果你将随机森林设置为分类任务,它不应该给出这样的结果。

然而,你也可以根据需要设置不同的阈值(0.5?0.8?)(你可以使用ROC曲线来帮助你确定最佳分类器)。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注