在pandas中使用Sklearn进行特征选择

data:   children     pet    salary
0    4.0        cat     90
1    6.0        dog     24
2    3.0        dog     44
3    3.0        fish    27
4    2.0        cat     32
5    3.0        dog     59
6    5.0        cat     36
7    4.0        fish    27
code: from sklearn_pandas import DataFrameMapper, cross_val_score 
from sklearn.feature_selection import SelectKBest, chi2 
mapper_fs = DataFrameMapper([(['children','salary'], SelectKBest(chi2, k=2))]) 
mapper_fs.fit_transform(data[['children','salary']], data['pet'])
result: array([[ 90.],
   [ 24.],
   [ 44.],
   [ 27.],
   [ 32.],
   [ 59.],
   [ 36.],
   [ 27.]])

我正在尝试在测试的pandas数据上编写sklearn特征选择的代码,但无法解释结果。我从官方文档中摘取了这部分代码。请建议我如何解释这些结果。例如,如果我的pandas数据框中有n列,如何从所有列中选择最佳的k列?


回答:

如果你试图选择数据训练集中最佳的k个特征,我可以肯定的是,你的方法有很多问题,其中包括:

  • DataFrameMapper 完全没用
  • 当你只有两个特征时,你却想获取数据集中最佳的k=2个特征
  • 在将data['pet']传递给fit函数之前,你需要对其进行编码

你应该这样做:

from sklearn.feature_selection import SelectKBest, chi2
X = # 你的n列数据框
y = # 目标值 - 如果是分类变量,需要进行编码
# 实例化你的选择器
selector = SelectKBest(chi2, k=...) # k < n,尝试使用类似int(round(n/10.))的值
# 使其适应你的数据
selector.fit(X, y) # 返回拟合后的选择器本身
# 如果需要,你可以使用fit_transform方法转换数据
# 现在,你已经减少了特征空间的维度。你现在可以进行分类

建议:当你不知道某事如何运作时,尝试阅读文档或在线查找一些教程。我从未见过使用DataFrameMapper进行在线特征选择的例子,除了你的…

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注