scikit learn如何实现输出层

  1. 在scikit learn中,输出层有多少个神经元?根据这里的说明,你只能指定隐藏层的尺寸和其中的神经元数量,而没有关于输出层的任何信息,因此我不知道scikit learn是如何实现输出层的。
  2. 对于只有一个神经元的输出层,使用softmax激活函数是否合理?

回答:

测试:

设置:

In [227]: %pasteclf = MLPClassifier()m = 10**3n = 64df = pd.DataFrame(np.random.randint(100, size=(m, n))).add_prefix('x') \       .assign(y=np.random.choice([-1,1], m))X_train, X_test, y_train, y_test = \    train_test_split(df.drop('y',1), df['y'], test_size=0.2, random_state=33)clf.fit(X_train, y_train)## -- End pasted text --Out[227]:MLPClassifier(activation='relu', alpha=0.0001, batch_size='auto', beta_1=0.9,       beta_2=0.999, early_stopping=False, epsilon=1e-08,       hidden_layer_sizes=(100,), learning_rate='constant',       learning_rate_init=0.001, max_iter=200, momentum=0.9,       nesterovs_momentum=True, power_t=0.5, random_state=None,       shuffle=True, solver='adam', tol=0.0001, validation_fraction=0.1,       verbose=False, warm_start=False)

输出数量:

In [229]: clf.n_outputs_Out[229]: 1

层数:

In [228]: clf.n_layers_Out[228]: 3

求解器运行的迭代次数:

In [230]: clf.n_iter_Out[230]: 60

以下是源代码的摘录,展示了如何为输出层选择激活函数:

    # 回归的输出    if not is_classifier(self):        self.out_activation_ = 'identity'    # 多类别的输出    elif self._label_binarizer.y_type_ == 'multiclass':        self.out_activation_ = 'softmax'    # 二分类和多标签的输出    else:        self.out_activation_ = 'logistic'

更新: MLPClassifier会以一对多的方式内部二值化标签,因此逻辑回归也适用于不同于[0,1]的标签:

    if not incremental:        self._label_binarizer = LabelBinarizer()        self._label_binarizer.fit(y)        self.classes_ = self._label_binarizer.classes_

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注