我认为直到最近，人们还使用coef_属性来从python的机器学习库sklearn中的线性模型中提取最具信息量的特征。现在，用户被引导使用SelectFromModel。SelectFromModel允许根据阈值来减少特征。因此，像下面的代码这样，可以将特征减少到重要性大于0.5的那些特征。我的问题是：有没有任何方法可以确定一个特征对于一个类别是正向还是负向区分的？

我的数据在一个名为data的pandas数据框中，第一列是文本文件的文件名列表，第二列是标签。

count_vect = CountVectorizer(input="filename", analyzer="word")X_train_counts = count_vect.fit_transform(data["filenames"])print(X_train_counts.shape)tf_transformer = TfidfTransformer(use_idf=True)traindata = tf_transformer.fit_transform(X_train_counts)print(traindata.shape) #报告训练数据的大小clf = LogisticRegression()model = SelectFromModel(clf, threshold=0.5)X_transform = model.fit_transform(traindata, data["labels"])print("减少后的特征: ", X_transform.shape)#获取所有特征的名称words = np.array(count_vect.get_feature_names())#使用模型的布尔索引获取重要特征的名称print(words[model.get_support()])

回答：

据我所知，你需要回到.coef_方法，看看哪些系数是负的或正的。负系数显然会降低该类别发生的概率（所以是负相关），而正系数会增加该类别发生的概率（所以是正相关）。

然而，这种方法只能告诉你方向，而不能告诉你显著性。你需要使用SelectFromModel方法来提取这些信息。