使用Python拟合固定协方差的高斯混合模型

我有一些2D数据(GPS数据),其中包含了一些聚类(停留位置),我知道这些聚类类似于具有特定标准偏差的高斯分布(与GPS样本的固有噪声成比例)。下图展示了一个我预期有两个此类聚类的样本。图像宽25米,高13米。

enter image description here

sklearn模块有一个函数sklearn.mixture.GaussianMixture,它允许你将高斯混合模型拟合到数据上。该函数有一个参数covariance_type,它允许你对高斯分布的形状做出不同的假设。例如,你可以使用'tied'参数假设它们是均匀的。

然而,似乎无法直接假设协方差矩阵保持不变。从sklearn的源代码来看,进行这样的修改似乎很简单,但提交一个允许这种操作的更新请求似乎有点过分(而且我也不想在sklearn中意外地引入错误)。有没有更好的方法来拟合数据,其中每个高斯分布的协方差矩阵是固定的?

我希望假设每个组件的标准偏差保持在约3米,因为这是我的GPS样本的噪声水平。


回答:

编写自己的EM算法实现是相当简单的。这也将帮助你更好地理解这个过程。我假设协方差是已知的,且各组件的先验概率是相等的,只拟合均值。

类将如下所示(在Python 3中):

在像你的数据上,模型会很快收敛:

np.random.seed(1)X = np.random.normal(size=(100,2), scale=3)X[50:] += (10, 5)model = FixedCovMixture(2, cov=[[3,0],[0,3]], random_state=1)model.fit(X)print(model.n_iter_, 'iterations')print(model.mean_)plt.scatter(X[:,0], X[:,1], s=10, c=model.predict(X))plt.scatter(model.mean_[:,0], model.mean_[:,1], s=100, c='k')plt.axis('equal')plt.show();

输出结果为

11 iterations[[9.92301067 4.62282807] [0.09413883 0.03527411]]

你可以看到估计的中心((9.9, 4.6)(0.09, 0.03))与真实中心((10, 5)(0, 0))非常接近。

enter image description here

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注