假设我有一个四类问题,其连续输出值在同一范围内(假设在10到50之间)。如果我将所有类别的数据(训练数据)放入一个单一的.csv文件中(用于WEKA),每个训练样本都有连续的输出…那么我的回归模型如何告诉我得到的输出(连续值)属于哪个类别呢?我想同时对多类输入数据进行量化
回答:
我现在还不完全确定你的问题是什么,但我假设你有四个数据集,每个数据集都有一个回归问题,你想对累积数据集进行回归,并期望模型不仅能恢复回归值,还能识别出“来源”。
- 在简单的实现中(只是拼接数据),这是不可能的,因为你会丢失任何关于数据来源的信息
- 你可以增强输出值,除了单纯的“Y”(回归值)外,还可以添加另一个值来指示它来自哪个集合,例如:
.
Set1:x11 -> y11Set2:x21 -> y21Set3:x31 -> y31Set4:x41 -> y41
你可以将其转换为
Big set: x11 -> (y11,1)x21 -> (y21,2)x31 -> (y31,3)x41 -> (y41,4)
或者使用一元编码
Big set: x11 -> (y11,1,0,0,0)x21 -> (y21,0,1,0,0)x31 -> (y31,0,0,1,0)x41 -> (y41,0,0,0,1)
这样,一旦训练完成,你不仅可以检索回归值,还可以识别出源数据集(你称之为“类别”)。
当然,最简单的解决方案是构建两个独立的模型,一个用于回归,一个用于分类,这样你可以使用为这些任务设计的模型(而使用一个模型至少需要为其中一部分选择一个次优的解决方案)。
Big set regression: x11 -> y11x21 -> y21x31 -> y31x41 -> y41Big set classification: x11 -> 1x21 -> 2x31 -> 3x41 -> 4
是否有益于创建这样的“大集合”而不是在小集合上工作的问题,相当于回答以下问题:
回归的值在每个子问题中是否有非常相似的预测因子
所以,如果你有合理的理由认为在每个子问题中这个特征可以以相似的方式推导出来(因为它对应于某种与你的数据分割无关的物理现象),那么是的,这是一个好方法。尽管只有在你的训练集非常有限的情况下才应该采取这样的步骤——如果有足够的数据,最好假设每个子问题有不同的特征,以防止模型偏差。最后,“终极”答案是“检查两种方法并评估哪种表现更好”(例如使用交叉验证),这也将为你提供一些关于这个值在子集中是否真正独立的见解。