我正在为C#开发一个朴素贝叶斯解决方案,涉及两种可能的结果。我找到了一小段示例代码,但我想请教一下是否有人能解释一下最后一行的含义。
分析器正在计算一个词属于两个类别之一的概率
cat1count
是类别1中找到的词的数量(如果某个词在类别1中出现两次,则为2 / 类别1中的总词数)
cat1total
= 类别1中的总词数
据我所知,bw
是词在类别1中的概率,而 gw
是词在类别2中的概率
pw
和 fw
让我开始有点迷惑。完整的源代码可以在这里找到。
float bw = cat1count / cat1total; float gw = cat2count / cat2total; float pw = ((bw) / ((bw) + (gw))); float s = 1f, x = .5f, n = cat1count + cat2count; float fw = ((s * x) + (n * pw)) / (s + n);
fw
是什么?我理解 bw
、gw
和 pw
的含义。
回答:
这段代码会针对分析的文本(例如推文)中的每个特定词 w
反复调用。所有变量都是使用频率估计的条件概率。
bw
是给定词 w
出现在类别1文本中的概率
gw
是给定词 w
出现在类别2文本中的概率
pw
重新调整了 bw
的概率,使得很少见的词与常见词的规模相似(从数学上讲,除法表明 pw
是一个条件概率)
fw
只是调整了规模,使 pw
不能为零(或一)。例如,如果 pw=0
且 n=10
,那么 fw = ((1 * 0.5) + (10 * 0)) / (1 + 10) = 0.045
。(一般来说,理解这段代码的一个好方法是尝试不同的数字,看看会发生什么。)
在朴素贝叶斯中,如您所知,条件概率是相乘的(在这种情况下,通过您指出的 github Analyzer.cs 文件 中的 LogProbability
函数),所以如果在乘法中有一个条件概率为零,最终结果将为零。因此,常见的做法是用一个小数代替零,这就是 fw
的目的。