我最近在Coursera的机器学习课程中学习机器学习，在学习带正则化的成本函数时出现了一些问题。如果您有任何想法，请给我一些建议。
-
如果我有足够多的训练数据，我认为正则化会降低准确性，因为模型仅通过训练集就能获得高可靠性和泛化输出，无需正则化。我该如何做出是否使用正则化的正确决定？
-
假设我们有一个如下模型：w3*x3 + w2*x2 + w1*x1 +w0，其中x3是特别容易导致过拟合的特征；这意味着它有更多的异常值。在这种情况下，我认为正则化方式有些不合理，因为它对每个权重都有影响。您知道在这种情况下我可以使用什么更好的方法吗？
-
选择lambda值的最佳方法是什么？我猜最简单的方法是使用不同的lambda值进行多次学习，并比较它们的训练准确性。然而，当我们有大量训练数据时，这显然是低效的。我想知道您是如何选择理想的lambda值的。
感谢阅读！
回答：
-
在评估模型在验证数据上的表现之前，提出猜测是个坏主意。您在问题中提到的“准确性”是指哪种准确性？训练集的准确性在估计模型的优劣方面不是很有用。通常，正则化对许多机器学习算法家族来说是可取的。在线性回归的情况下，绝对值得使用。正则化的关键问题只是其程度，即lambda参数的值。此外，您可能想尝试L1而不是L2。阅读这个。
-
在机器学习中，像这样的问题通常是通过数据来回答的。尝试一个模型，研究其行为，尝试不同的解决方案来解决您观察到的问题。
-
阅读这个：如何计算线性回归中的正则化参数
