我对机器学习还只是个业余爱好者，目前正在尝试编写Baum Welch算法，这是针对隐马尔可夫模型的EM算法的一个变种。在我的程序中，我通过测试新模型中每个观测序列的概率来检查是否收敛，并在新模型的概率小于或等于旧模型时终止。然而，当我运行算法时，虽然它似乎部分收敛并且结果远好于随机，但在最后一次迭代时概率下降。这是不是有bug的迹象，还是我做错了什么？

我觉得我应该使用每个观测概率的对数之和来进行比较，因为这似乎是我要最大化的函数。然而，我读过的一篇论文建议使用观测概率之和的对数（我相当确定这与概率之和相同）(https://www.cs.utah.edu/~piyush/teaching/EM_algorithm.pdf)。

我在另一个项目中通过实现具有预设轮次数量的for循环而不是具有新迭代严格大于条件的while循环，解决了在实现前馈神经网络的反向传播时的类似问题，但我想知道这是否是一种不好的做法。

我的代码在 https://github.com/icantrell/Natural-Language-Processing 的nlp.py文件中。

任何建议都将不胜感激。谢谢你。

回答：

对于EM迭代，或任何其他被证明非递减的迭代，你应该看到增加，直到增加的大小与浮点误差相比变得很小，此时浮点误差违反了证明中的假设，你可能会看到不仅没有增加，而且还有很小的减少——但这应该只是非常小的减少。

检查这些基于概率的计算的一个好方法是创建一个小的测试问题，其中正确的答案非常明显——如此明显，以至于你可以看到测试代码的答案是否明显正确。

值得将你引用的论文与 https://en.wikipedia.org/wiki/Expectation%E2%80%93maximization_algorithm#Proof_of_correctness 进行比较。我认为像(11)和(12)这样的方程并不是让你实际计算的，而是用来激励和证明最终结果的论据。我认为与传统的EM步骤对应的方程，你确实需要计算的，是方程(15)，它说明你在每一步改变参数以增加期望对数似然度，这是根据旧参数计算的隐藏状态分布下的期望，这是标准的EM步骤。事实上，我翻过一页，看到这一点在第8页的顶部明确说明了。