我正在寻找一种方法来实现机器学习，用于解决特定供应链领域中与费用审批相关的小数据集问题。通常情况下，标记数据是不可用的。

我希望在一个有标记数据的数据集上构建模型，然后在相似情境下使用该模型——尽管特征集非常相似，但并非完全相同。期望是，这可以作为新情境下推荐的起点，并收集标记数据。

我明白这是迁移学习的本质。我阅读的大多数相关领域的例子都涉及图像数据集——有何指导可以帮助在使用标准树形分类算法的小数据集上应用这种方法？

回答：

经过一些研究，我们决定继续使用随机森林模型。我们的直觉是，原始模型中具有共同特征的树将成为决策的起点。

随着我们在新情境中获得更多的标记数据，我们将开始用新的树替换原始树，这些新树包括（a）仅有新特征和（b）旧特征与新特征的组合。

这种方法在初步试验中取得了合理的结果。