我有一个包含1568行的训练数据集,每行都有一个类属性的七个值之一。我希望在另一个包含168行的数据集上测试这些数据。
但我有一个问题。Weka报告的“类先验概率”是:
141.0169.0225.0197.0421.0281.0141.0
我的训练集按类属性值的实例数量如下:
140168224196420280140
除了类先验概率与训练集按类属性值的行数非常接近之外,有人能告诉我它们是什么以及它们实际代表什么吗?
测试集按类属性值的实例数量如下:
15182421453015
回答:
类先验概率是对从总体中随机抽取一个实例时得到给定类的概率的估计。Weka假设你的训练数据是从一个总体中随机抽取的,因此训练集中各类的比例反映了它们在抽样总体中的相对丰度。请注意,Weka报告的不是先验概率本身,而是用于计算先验概率的计数。每个计数加1的原因是为了防止在训练数据中某个特定类未被表示的情况下的零计数。因此,Weka应计算每个类的实际先验概率为
P(c_i) = n_i / (N + C)
其中n_i
是类i
的样本数,N
是总样本数,C
是类数目。
作为先验概率用途的一个非常简单的例子,考虑在仅知道一个人有发烧和头痛的情况下对疾病进行分类。这些症状既是流感的迹象,也是埃博拉病毒的迹象。但患流感的人远多于患埃博拉的人(流感的先验概率远高于埃博拉),所以基于这些症状,你会将疾病分类为流感。
Weka提供了更新或覆盖默认先验概率的方法。要了解先验概率在分类中如何使用的数学细节,请查看贝叶斯定理。