我有一个通过逻辑回归算法训练的二元预测模型。我想知道哪些特征（预测变量）对决定正类或负类更为重要。我知道scikit-learn包中有coef_参数，但我不知道这是否足以判断重要性。另一个问题是如何从正类和负类的重要性角度评估coef_值。我还读到过标准化回归系数，但我不知道这是什么意思。

假设有肿瘤大小、肿瘤重量等特征来决定一个测试案例是恶性还是非恶性。我想知道哪些特征对恶性和非恶性预测更为重要。

回答：

在线性分类模型（逻辑回归是其中之一）中，了解某个参数“影响力”的最简单方法之一是考虑其系数的绝对值乘以数据中相应参数的标准差。

考虑以下示例：

import numpy as np
from sklearn.linear_model import LogisticRegression
x1 = np.random.randn(100)
x2 = 4*np.random.randn(100)
x3 = 0.5*np.random.randn(100)
y = (3 + x1 + x2 + x3 + 0.2*np.random.randn()) > 0
X = np.column_stack([x1, x2, x3])
m = LogisticRegression()
m.fit(X, y)
# 估计的系数将大约为1：
print(m.coef_)
# 然而，这些值将显示第二个参数更有影响力
print(np.array(np.std(X, 0))*m.coef_)

另一种获得类似结果的方法是检查在标准化参数上拟合的模型的系数：

m.fit(X / np.std(X, 0), y)
print(m.coef_)

请注意，这是最基本的方法，还有许多其他技术可以用来寻找特征重要性或参数影响力（使用p值、bootstrap分数、各种“判别指数”等）。

我很确定你会在https://stats.stackexchange.com/上得到更多有趣的回答。