我正在使用scikit-learn在Python中实现一个多项式逻辑回归模型。然而，我希望使用目标变量的类别的概率分布。举个例子，假设这是一个包含3个类别的变量，格式如下：

    class_1 class_2 class_30   0.0     0.0     1.01   1.0     0.0     0.02   0.0     0.5     0.53   0.2     0.3     0.54   0.5     0.1     0.4

这样，每行的值总和等于1。

我该如何拟合这样的模型呢？当我尝试：

model = LogisticRegression(solver='saga', multi_class='multinomial')model.fit(X, probabilities)

我得到一个错误提示：

ValueError: bad input shape (10000, 3)

我知道这是因为该方法期望输入的是一个向量，而不是矩阵。但在这里，我不能将probabilities矩阵压缩成向量，因为这些类别不是互斥的。

回答：

在scikit-learn中，你不能使用非指示概率进行交叉熵损失；这在API中没有实现和支持。这是scikit-learn的一个限制。

对于逻辑回归，你可以通过根据标签的概率上采样实例来近似它。例如，你可以将每个实例上采样10倍：例如，如果一个训练实例的类别1的概率为0.2，类别2的概率为0.8，则生成10个训练实例：8个带有类别2，2个带有类别1。这样做可能不够高效，但在极限情况下，你将优化相同的目标函数。

你可以这样做：

from sklearn.utils import check_random_stateimport numpy as npdef expand_dataset(X, y_proba, factor=10, random_state=None):    """    Convert a dataset with float multiclass probabilities to a dataset    with indicator probabilities by duplicating X rows and sampling    true labels.    """    rng = check_random_state(random_state)    n_classes = y_proba.shape[1]    classes = np.arange(n_classes, dtype=int)    for x, probs in zip(X, y_proba):        for label in rng.choice(classes, size=factor, p=probs):            yield x, label

查看更完整的示例，请访问：https://github.com/TeamHG-Memex/eli5/blob/8cde96878f14c8f46e10627190abd9eb9e705ed4/eli5/lime/utils.py#L16

或者，你可以使用像TensorFlow或PyTorch这样的库来实现你的逻辑回归；与scikit-learn不同，在这些框架中很容易定义任何损失函数，而且交叉熵是开箱即用的。