如何在加权高斯混合模型中评估一个样本?

简短版本:

如果我有一个包含n个组件的MoG模型,每个组件都有各自的权重w^n。我有一个样本s。我希望计算这个样本从MoG中抽取的概率。我可以轻松地评估各个高斯分布,但不知道如何考虑它们的权重或聚合它们的得分。

较长版本:

我在matlab中使用MoG模型进行机器学习算法。我以蒙特卡洛风格进行抽样,因此需要进行重要性重新加权,这涉及到评估从MoG模型中抽取特定样本的可能性。我可以轻松地评估单个高斯分布,但对于整个MoG模型,考虑所有组件和权重,我不确定该如何操作。


回答:

我想,数学上的答案应该是:

y = p(x | M) = \sum_i p(x | N_i) * w_i

其中p(x | M)x从混合模型M中被抽取的概率,这被转换为x从每个高斯分布N_i中被抽取的概率的加权和,这些概率由从正态分布N_i中抽取的先验概率(w_i,训练过程中获得的权重)加权。

在这里找到关于如何训练或从GMM中抽样的详细文档:

http://guneykayim-msc.googlecode.com/svn-history/r20/trunk/doc/common/GMM.pdf

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注