C#中朴素贝叶斯概率计算

我正在为C#开发一个朴素贝叶斯解决方案,涉及两种可能的结果。我找到了一小段示例代码,但我想请教一下是否有人能解释一下最后一行的含义。

分析器正在计算一个词属于两个类别之一的概率

cat1count 是类别1中找到的词的数量(如果某个词在类别1中出现两次,则为2 / 类别1中的总词数)

cat1total = 类别1中的总词数

据我所知,bw 是词在类别1中的概率,而 gw 是词在类别2中的概率

pwfw 让我开始有点迷惑。完整的源代码可以在这里找到。

        float bw = cat1count / cat1total;        float gw = cat2count / cat2total;        float pw = ((bw) / ((bw) + (gw)));        float            s = 1f,            x = .5f,            n = cat1count + cat2count;        float fw = ((s * x) + (n * pw)) / (s + n);

fw 是什么?我理解 bwgwpw 的含义。


回答:

这段代码会针对分析的文本(例如推文)中的每个特定词 w 反复调用。所有变量都是使用频率估计的条件概率。

bw 是给定词 w 出现在类别1文本中的概率

gw 是给定词 w 出现在类别2文本中的概率

pw 重新调整了 bw 的概率,使得很少见的词与常见词的规模相似(从数学上讲,除法表明 pw 是一个条件概率)

fw 只是调整了规模,使 pw 不能为零(或一)。例如,如果 pw=0n=10,那么 fw = ((1 * 0.5) + (10 * 0)) / (1 + 10) = 0.045。(一般来说,理解这段代码的一个好方法是尝试不同的数字,看看会发生什么。)

在朴素贝叶斯中,如您所知,条件概率是相乘的(在这种情况下,通过您指出的 github Analyzer.cs 文件 中的 LogProbability 函数),所以如果在乘法中有一个条件概率为零,最终结果将为零。因此,常见的做法是用一个小数代替零,这就是 fw 的目的。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注