决策树产生不同的输出

我目前正在使用决策树(使用Scikit Learn)来预测某些值。我遇到的问题是算法的输出不一致。这是决策树的特性吗?在多次运行中(数据和算法没有变化),我得到了不同的结果。

我开始时使用了Scikit的决策树类,没有做任何更改

svr = DecisionTreeRegressor()

然后,为了消除任何“随机性”,我将其更改为

svr = DecisionTreeRegressor(splitter='best', random_state=None)

是什么导致了不同的结果?如何防止这种情况发生?

以下是两个结果(为了简单起见进行了绘制),红色是决策树回归的结果,蓝色是测试集。

Image One

Image Two


回答:

来自文档

random_state : int, RandomState实例或None,可选(默认=None)

如果是int,random_state是随机数生成器使用的种子;如果是RandomState实例,random_state是随机数生成器;如果是None,随机数生成器是np.random使用的RandomState实例。

对于None,它将使用np.random,这也是随机的。要制作可重现的示例,您需要在random_state中指定int数字。例如:

svr = DecisionTreeRegressor(random_state=1)

在您的案例中,您正在做:

svr = DecisionTreeRegressor(splitter='best', random_state=None)

这与random_state的默认行为相同。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注