我正在处理一个回归问题,我的数据库非常不平衡。我的特征包括年龄、性别、体重、药物剂量、一些实验室结果,我试图预测一列连续值。
在我的数据集中,一些个体拥有比其他个体更多的样本。例如,一个个体有30行数据,第二个个体有10行,第三个个体有1行,依此类推。我不知道如何选择训练集,以避免模型对特定个体产生偏见。
我将训练集和测试集分开的方式是确保同一个体的数据不会出现在两个集合中,但即便如此,使用对于每个个体数据量不平衡的训练集来训练模型,仍会使模型产生偏见。
回答:
我建议复制样本。例如,每个个体都拥有30行数据。
作为替代方案,您也可以调整权重。拥有30个样本的个体权重为1,拥有10个样本的个体权重为3,拥有30个样本的个体权重为30(这相当于复制样本,但不会增加训练集的大小)。