有人能解释如何证明期望最大化算法的收敛性吗?
例如,EM用于硬币问题:https://math.stackexchange.com/questions/25111/how-does-expectation-maximization-work
回答:
EM算法执行最大似然估计。如果你观察对数似然度,并不是说E步和M步总是最大化它。然而,如果你观察负自由能函数,两者总是最大化它,尽管是针对不同的东西(有点像坐标下降)。所以,是的,EM算法总是收敛的,尽管它可能会收敛到不好的局部极值,这是一个不同的问题。
请查看经典论文www.cs.toronto.edu/~radford/ftp/emk.pdf以了解更多信息。