假设我有一个数据集，可以使用Weka的J48或R中的随机森林进行整洁的分类。现在假设我有另一个训练文件，每个数据点包含两个分类。

我如何将这两个数据集结合起来，以便能够将新的数据点分类到这两个类别中？

（所以我需要一个“两阶段”的训练。）

我是否应该使用MLP（如受限玻尔兹曼机）来代替？

回答：

我假设你的两个数据集看起来像这样…

数据集1:

(x_11, x_12, ... , x_1N) = 1(x_21, x_22, ... , x_2N) = 0....

数据集2:

(x_11, x_12, ... , x_1N) = (1, 1)(x_21, x_22, ... , x_2N) = (0, 1)....

假设你的问题看起来像这样，我会将其分成两个问题：预测这两个不同的标签。我认为这可以通过概率公式来证明：

p(L1,L2|X) = p(L2|L1,X)p(L1|X)

其中L1和L2是两个类别标签，X是数据。

我的建议是使用数据集1和2以及L1作为目标变量来训练p(L1|X)的模型，然后使用数据集2和L1以及L2作为目标变量来训练p(L2|L1,X)的模型。要预测一对新的标签，你先应用第一个模型来获得L1的估计值，然后使用L1的估计值应用第二个模型来获得L2的估计值。

我认为反对这种方法的一个论点是，尽管公式是正确的，但p(L1,L2|X)可能比p(L2|L1,X)和p(L1|X)更容易学习。然而，在没有更多细节的情况下，我真的不知道。