使用Python 3.5,我执行以下操作
from sklearn.neural_network import MLPRegressorimport pandas as pd
from sklearn import datasetsfrom sklearn.decomposition import PCA
# 导入一些数据进行操作iris = datasets.load_iris()X = iris.data[0:100, :2] # 我们只取前两个特征。Y = iris.target[0:100]X = StandardScaler().fit_transform(X)X_train, X_test, y_train, y_test = train_test_split(X, Y, test_size=0.15)reg = MLPRegressor(hidden_layer_sizes=(10,), solver="lbfgs", #solver="lbfgs", max_iter = 10000, activation = 'relu')reg.fit(X_train,y_train)
我可以使用 reg.coefs_[0]
获取矩阵,但当我将它与测试用例相乘时,得到的结果既不是0也不是1
我试图做的是基于实验室数据训练一个ANN,然后将其实现为硬件上的矩阵乘法。该硬件可以进行基本的算术运算,因此我需要将我的ANN分解成矩阵,然后将矩阵乘法编程为迭代的乘法/加法
回答:
简短的、针对此问题的回答是
np.dot((np.dot(X_test[0],reg.coefs_[0]) +reg.intercepts_[0] ),reg.coefs_[1]) + reg.intercepts_[1]
详细的回答如下(更长的版本在这里: https://www.mohammadathar.com/blog/2017/2/15/a-different-look-at-neural-networks )
这实际上意味着,“将输入值乘以权重,然后相加。再加上一个偏置值。然后激活。然后乘以权重,再相加。然后激活。重复这个过程!”
作为矩阵数学,它看起来像这样
所以 reg.coefs_
是矩阵系数(按层),而 reg.intercepts_
是激活值(同样,按层)