在2010年图灵讲座中，Christopher Bishop谈到机器学习正在经历一场革命，因为统计学被应用于机器学习算法…

但这似乎意味着所有机器学习算法都是统计算法…两者之间的真正区别是什么？为什么大多数大学将它们作为独立的课程来教授？

回答：

两者之间并没有太大的区别，存在的区别主要是文化上的。机器学习源自计算机科学，而统计学则更偏向数学。Brendan O’Connor 写了一篇很好的博客文章，标题为“统计学与机器学习，较量！”，讨论了这个问题。

至于机器学习的非统计学方法，有几种基于规则的方法（决策树、规则归纳、ILP），还有用于控制问题的强化学习方法。这些对我来说并不像是统计学的，但你可以声称它们是统计学的…如果你愿意，你甚至可以声称生活的方方面面都属于统计决策理论（事实上，Marcus Hutter就是这样做的）。