我有一个简单的二元分类问题，我想使用Hoeffding不等式来评估学习的可行性，如果可能的话，也想使用VC维度。

我理解理论部分，但仍卡在如何在Python中实现的问题上。

我知道样本内错误（Ein）是训练错误。我猜样本外错误（Eout）是测试子样本上的错误。但是，我该如何绘制这两个错误之间的差异并与Hoeffding界限一起展示呢？

回答：

这是我处理的方式：我生成多个训练/测试样本，在这些样本上运行算法，将Ein计算为训练集错误，通过测试集错误估计Eout，计算它们的差异超过epsilon的次数（对于一系列的epsilon）。然后，我绘制这些超过epsilon的比率曲线以及Hoeffding/VC不等式右侧的曲线，这样我就可以看到差异曲线是否始终在Hoeffding/VC界限曲线之下，这让我了解学习的可行性。