生成完全拟合训练集的决策树?

我的数据集就是我的规则,我希望生成一个决策树,至少在分类我的规则时能达到100%的准确率,但我始终无法达到100%。我将minNumObjs设置为1,并取消了修剪,但正确分类的实例只有84%。

我的属性是:

@attribute users numeric@attribute bandwidth numeric@attribute latency numeric@attribute mode {C,H,DCF,MP,DC,IND}

示例数据:

2,200000,0,C2,200000,1000,C2,200000,2000,MP2,200000,5000,C2,400000,0,C2,400000,1000,DCF

能有人帮我理解为什么我无法将所有实例100%分类,以及如何在保持属性为数值型的情况下达到100%的分类吗?

谢谢


回答:

有时候由于具有相同特征向量但标签不同的情况,达到100%的准确率是不可能的。我猜测在你的案例中,usersbandwidthlatency是特征,而mode是你试图预测的标签。如果是这样,那么可能存在{usersbandwidthlatency}相同值但mode标签不同的情况。

一般来说,对于相同特征具有不同标签的情况可能通过以下几种方式发生:

  1. 数据中存在噪声,这是由于数据读取错误造成的。
  2. 存在未捕捉到的随机性来源。
  3. 可能有更多能够区分不同标签的特征,但这些特征不在你的数据集中。

你现在可以做的一件事是将你的训练集通过决策树运行,找出被错误分类的项目。尝试确定它们为什么是错误的,并查看是否有任何数据实例表现出我上面所写的(即一些数据实例具有相同的特征但不同的标签)。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注