我刚刚收到一个面试问题。

“假设你想构建一个统计或机器学习模型，但手头的数据非常有限。你的老板告诉你可以多次复制原始数据，以增加用于构建模型的数据量。”这有帮助吗？

直觉上，这没有帮助，因为复制原始数据并不会为模型提供更多的“信息”。

但有没有人能从统计学的角度更详细地解释一下？谢谢

回答：

嗯，这取决于“复制数据”具体指的是什么。

如果是完全复制整个数据集多次，那么基于最大似然的方法（如许多常用模型）必须找到完全相同的结果，因为复制数据的对数似然函数恰好是未复制数据对数似然函数的倍数，因此具有相同的最大值。（这个论点不适用于不基于似然函数的方法；我认为CART和其他树模型以及SVM属于这种情况。在这种情况下，你需要提出不同的论点。）

然而，如果复制指的是在分类问题中复制正例（这很常见，因为通常负例比正例多得多），那么这确实会产生影响，因为似然函数会发生变化。

此外，如果指的是自助法（bootstrapping），那也会产生影响。

附注：你可能在stats.stackexchange.com上会对这个问题更感兴趣。