我在学习机器学习课程，在练习2的第二部分中，我们应该使用特征映射。他们通过将特征映射到x1和x2的所有多项式项中，最高达到六次幂，来添加新特征。然而，我的导师告诉我我不应该使用这种算法，而是应该随机添加特征。但是，我们添加新特征是为了更好地分类。那么，随机添加特征不是会使问题变得更加复杂吗？所以我们可以随机添加特征，还是应该遵循一些规则？

回答：

添加新特征（例如现有特征的多项式）有助于通过使用复杂的假设来减少错误。但这可能会导致过度拟合训练数据，并且在测试集上可能无法产生有效的结果。

因此，为了添加新特征，应考虑以下几点：

1）通过分析结果手动选择保留哪些特征。

2）另一种方法是使用所有特征，然后使用正则化，这将自动降低对贡献较小的特征的重要性，并增加对目标变量贡献较大的特征的重要性。

3）随机选择特征可能并非总是有帮助的。总是需要选择那些对目标变量贡献更大的特征。随机选择可能不是合适的解决方案。

重要说明

在训练过程中，始终使用验证集来检查错误。在处理多项式特征时，始终检查学习曲线以确保模型不会过度拟合训练数据。如果发生这种情况，尝试增加正则化参数（lambda）。正则化有助于减少过度拟合。