在WEKA中进行多类回归

假设我有一个四类问题,其连续输出值在同一范围内(假设在10到50之间)。如果我将所有类别的数据(训练数据)放入一个单一的.csv文件中(用于WEKA),每个训练样本都有连续的输出…那么我的回归模型如何告诉我得到的输出(连续值)属于哪个类别呢?我想同时对多类输入数据进行量化


回答:

我现在还不完全确定你的问题是什么,但我假设你有四个数据集,每个数据集都有一个回归问题,你想对累积数据集进行回归,并期望模型不仅能恢复回归值,还能识别出“来源”。

  1. 在简单的实现中(只是拼接数据),这是不可能的,因为你会丢失任何关于数据来源的信息
  2. 你可以增强输出值,除了单纯的“Y”(回归值)外,还可以添加另一个值来指示它来自哪个集合,例如:

.

Set1:x11 -> y11Set2:x21 -> y21Set3:x31 -> y31Set4:x41 -> y41

你可以将其转换为

Big set: x11 -> (y11,1)x21 -> (y21,2)x31 -> (y31,3)x41 -> (y41,4)

或者使用一元编码

Big set: x11 -> (y11,1,0,0,0)x21 -> (y21,0,1,0,0)x31 -> (y31,0,0,1,0)x41 -> (y41,0,0,0,1)

这样,一旦训练完成,你不仅可以检索回归值,还可以识别出源数据集(你称之为“类别”)。

当然,最简单的解决方案是构建两个独立的模型,一个用于回归,一个用于分类,这样你可以使用为这些任务设计的模型(而使用一个模型至少需要为其中一部分选择一个次优的解决方案)。

Big set regression: x11 -> y11x21 -> y21x31 -> y31x41 -> y41Big set classification: x11 -> 1x21 -> 2x31 -> 3x41 -> 4

是否有益于创建这样的“大集合”而不是在小集合上工作的问题,相当于回答以下问题:

回归的值在每个子问题中是否有非常相似的预测因子

所以,如果你有合理的理由认为在每个子问题中这个特征可以以相似的方式推导出来(因为它对应于某种与你的数据分割无关的物理现象),那么是的,这是一个好方法。尽管只有在你的训练集非常有限的情况下才应该采取这样的步骤——如果有足够的数据,最好假设每个子问题有不同的特征,以防止模型偏差。最后,“终极”答案是“检查两种方法并评估哪种表现更好”(例如使用交叉验证),这也将为你提供一些关于这个值在子集中是否真正独立的见解。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注