高斯混合模型中的参数数量

我有D维数据和K个分量。如果我使用具有完全协方差矩阵的模型,参数有多少?如果使用对角协方差矩阵,参数又有多少?


回答:

回答来自 xyLe_CrossValidated

https://stats.stackexchange.com/a/229321/127305

只需进行简单的计算即可。

对于每个高斯分布,你有:
1. 一个对称的完整 DxD 协方差矩阵,提供 (D*D - D)/2 + D 个参数((D*D - D)/2 是非对角元素的数量,D 是对角元素的数量)
2. 一个 D 维的均值向量,提供 D 个参数
3. 一个混合权重,提供另一个参数

这导致每个高斯分布有 Df = (D*D - D)/2 + 2D + 1 个参数。
鉴于你有 K 个分量,你有 K*Df 个参数。

在对角情况下,协方差矩阵的参数减少到 D,因为没有非对角元素。
因此得到 Df = 2D + 1

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注