我在大学里学习机器学习，辅助教材是《机器学习基础》（第二版）。我已经学过了PAC学习、Rademacher复杂度、增长函数和VC维。在教材和课程中，我们似乎花了很多时间在寻找界限上。
我对我们为什么要做这件事感到有些困惑。
- 寻找这些界限的真正目的是什么？
- 这些界限在现实世界的机器学习领域中是如何实际应用的？
无论是教材还是我的教授，都没有对我提出的问题给予特别有帮助的回答。
谢谢。
回答：
决策边界是识别模式的基本原则（将某物分为两组的最简单视角）。由此引出泛化界限的概念：
在统计机器学习理论中，泛化界限——更准确地说，泛化误差界限——是对学习算法或算法类别的预测性能的陈述。
因此，寻找界限的真正意义在于让你能够识别算法的性能（或效率）。
这可能看起来是一个微不足道的问题；因为答案很简单，因为学习算法可以搜索整个假设空间以寻找其最优解。虽然这个答案是正确的，但考虑到我们正在研究的泛化不等式，我们需要一个更正式的答案。
如果你的问题更像是：为什么要花很多时间（所以你强调了在这上面花费的时间），换句话说：为什么我们需要考虑每一种可能的假设？（更多）：
这可能看起来是一个微不足道的问题；因为答案很简单，因为学习算法可以搜索整个假设空间以寻找其最优解。虽然这个答案是正确的，但考虑到我们正在研究的泛化不等式，我们需要一个更正式的答案。
