为什么我们选择Beta分布作为假设的先验?

我在卡内基梅隆大学观看了Tom Mitchell教授2011年开设的课程10-701的机器学习课程视频。他在讲解最大似然估计时使用了Beta分布作为theta的先验,我很好奇他为什么只选择了这个分布?

这是讲座的截图


回答:

这个讲座中,Mitchell教授给出了一个抛硬币并估计其公平性的例子,即正面朝上的概率 – theta。他合理地选择了二项分布来进行这个实验。

选择Beta分布作为先验的原因是为了在计算后验时简化数学运算。这非常有效,因为Beta分布是二项分布的共轭先验 – 在同一个讲座的最后,教授提到了这一点。这并不意味着不能使用其他先验,例如正态分布、泊松分布等。但其他先验会导致复杂的后验分布,这些分布难以优化、计算积分等。

这是一个普遍原则:即使共轭先验并不完全符合数据,也应优先选择共轭先验而不是更复杂的分布,因为数学运算更简单。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注