通常情况下，机器学习系统表现良好。然而，当训练好的机器学习系统出现问题时（例如，机器学习系统的表现不如随机…），一场伟大的“猜谜游戏”就开始了。我所说的“猜谜游戏”，指的是我的经验。对我来说，似乎调试机器学习系统大多是通过猜测问题所在，而不是通过方法论的方式进行的。
由于机器学习系统可能失败的原因众多，找到实际的错误可能非常耗时。例如，错误可能是由于：
- 有偏见的训练数据集
- 训练数据不足
- 数据集中包含错误
- 特征不具代表性/特征过多
- 草率的训练（例如，在神经网络中，当训练数据不是随机呈现时）
- …
有没有易于调试的机器学习系统？（以及如何调试它？）
是否有已知的方法论来调试机器学习系统？
回答：
你所称的“调试”在机器学习社区中被称为优化。虽然根据分类器和问题，有一些优化分类器的方法，但没有标准的方法。例如，在文本分类问题中，你可能会通过实验发现，如果用某些特征来训练你的分类器，你的分类器的性能会得到提升。有选择特征组合的方法可以使分类器的分类准确率达到最高。其中一些方法涉及使用遗传算法来寻找最佳的特征组合。你可以了解一种方法叫做顺序特征选择。关于这些话题还有许多论文，你可能会发现它们很有用。此外，还有一些研究通过改变分类器实现中的分类函数或其他计算来实现更好的分类结果。
话虽如此，也有一些被认为是作弊的优化分类器的方法，应该避免（这通常是指当一个分类器被优化以仅在单个数据集或高度相似的数据集上解决问题，而不能在其他之前未见过的数据集上解决问题时）。
