我有大约300个特征,我想通过使用Weka中的特征选择技术来找到最佳的特征子集。请问有人能告诉我如何在Weka中删除冗余特征吗?:)
回答:
在Weka中,你可以主要使用两种类型的特征选择技术:
- 使用包装方法的特征选择:
“包装方法将特征集的选择视为一个搜索问题,不同的组合被准备、评估并与其他组合进行比较。使用一个预测模型来评估特征组合,并根据模型的准确性分配一个分数。
搜索过程可能是系统性的,比如最佳优先搜索;也可能是随机的,比如随机爬山算法;或者可能使用启发式方法,如通过前向和后向传递来添加和删除特征。
包装方法的一个例子是递归特征消除算法。” [来自 http://machinelearningmastery.com/an-introduction-to-feature-selection/]
- 使用过滤方法的特征选择:
“过滤特征选择方法应用统计测量来为每个特征分配一个分数。特征根据分数进行排名,并选择保留或从数据集中删除。方法通常是单变量的,考虑特征的独立性,或与因变量的关系。
一些过滤方法的例子包括卡方检验、信息增益和相关系数分数。” [来自 http://machinelearningmastery.com/an-introduction-to-feature-selection/]