决策网络/决策森林是否考虑输入之间的关系

我有处理神经网络的经验,特别是反向传播类型的神经网络,我知道当引入隐藏层时,传递给训练器的输入之间的依赖关系会成为结果模型的一部分知识。

决策网络是否也如此?

我发现关于这些算法(如ID3)的信息有些难以找到。我能够找到实际的算法,但关于期望/最佳数据集格式和其他概述的信息却很少见。

谢谢。


回答:

决策树实际上非常容易提供数据,因为它们只需要一个数据表,以及你想在哪个数据列(或特征)上进行预测。该数据可以是任何特征的离散或连续值。现在有几种不同类型的决策树,它们对连续和离散值的支持不同。它们的工作方式也不同,因此理解每种类型的工作原理可能具有挑战性。

不同决策树算法的复杂度或性能比较

根据你感兴趣的算法类型,如果你想尝试实现它,可能很难在不阅读实际论文的情况下找到信息。我已经实现了CART算法,唯一的选择是找到关于它的200页的原书。大多数其他处理只详细讨论了像分裂这样的概念,但对其他方面的讨论仅限于高层次。

至于它们是否考虑事物之间的依赖关系。我认为它只假设每个输入特征与预测特征之间存在依赖关系。如果输入与预测特征无关,你就不能用它作为分裂标准。但在其他输入特征之间,我认为它们必须是相互独立的。我得查一下书才能确保这是不是真的,但凭我的直觉,我认为这是真的。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注