在期望最大化算法中对数似然的意义

我已经实现了期望最大化算法,并且它能够收敛并正确返回musigma的值,我已经用多个例子进行了验证。

我尝试绘制了对数似然图,但不知道正确的形式应该是什么样子?这是方程:enter image description here这是我的图表,y轴是对数似然值,x轴是迭代次数。enter image description here

负值看起来很奇怪,也许我应该对似然进行归一化?在期望最大化算法中,对数似然的意义是什么?

logLikelihood = 0;for i = 1 : n    logTemp = 0;    for j = 1 : k        logTemp =  logTemp + p(j) * mvnpdf(x(i,:), mu(j,:), sigma(:,:,j));    end    logLikelihood = logLikelihood + log(logTemp);endplot(iteration, logLikelihood,'r*');hold on;

回答:

对数概率总是负的,因为它是一个概率的对数(p<1)。你的概率(不是对数概率)大约是p=10^-1000,这是正常的。例如,10000次有偏骰子掷出的最可能序列的概率非常小(但其他序列的概率会更小)。

对数概率的构造是为了避免概率消失,即程序会将它们四舍五入为零,当这种情况发生时,程序很可能会因为某些归一化值为零而崩溃。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注