我根据以下笔记在Matlab中编写了一个反向传播算法：http://dl.dropbox.com/u/7412214/BackPropagation.pdf

我的网络接受长度为43的输入/特征向量，隐藏层有20个节点（我可以更改的任意参数选择），并且有一个单一的输出节点。我希望训练我的网络能够接受43个特征并输出一个介于0到100之间的单一值。输入数据已被标准化为零均值和单位标准差（通过z = x – mean / std），然后我在输入向量中附加了一个“1”项来表示偏置。我的目标值只是介于0到100之间的单一数字。

这是我的代码的相关部分：

（按照我的惯例，层I（i）指的是输入层，J（j）指的是隐藏层，K（k）指的是输出层，在这种情况下是一个单一节点。）

for train=1:numItrs        for iterator=1:numTrainingSets            %%%%%%%% 前向传播 %%%%%%%%            % 获取输入，这些是inputFeatures矩阵的行            InputLayer = inputFeatures(iterator, :)'; %别忘了转换成列            % 计算隐藏层输出：            HiddenLayer = sigmoidVector(WeightMatrixIJ' * InputLayer);            % 现在是输出层输出：            OutputLayer = sigmoidVector(WeightMatrixJK' * HiddenLayer);            %%%%%%% 调试内容 %%%%%%%%（对于单值输出）            if (mod(train+iterator, 100) == 0)               str = strcat('输出值: ', num2str(OutputLayer), ' | 测试值: ', num2str(targetValues(iterator, :)'));                disp(str);            end             %%%%%%%% 反向传播 %%%%%%%%            % 对于隐藏-输出权重进行反向传播            currentTargets = targetValues(iterator, :)'; %去掉行，使其成为列以便于减法            OutputDelta = (OutputLayer - currentTargets) .* OutputLayer .* (1 - OutputLayer);             EnergyWeightDwJK = HiddenLayer * OutputDelta'; %外积            % 更新这一层的权重矩阵：            WeightMatrixJK = WeightMatrixJK - epsilon*EnergyWeightDwJK; %逐元素进行            % 对于输入-隐藏权重进行反向传播            HiddenDelta = HiddenLayer .* (1 - HiddenLayer) .* WeightMatrixJK*OutputDelta;             EnergyWeightDwIJ = InputLayer * HiddenDelta';             WeightMatrixIJ = WeightMatrixIJ - epsilon*EnergyWeightDwIJ;         end    end

权重矩阵的初始化如下：

WeightMatrixIJ = rand(numInputNeurons, numHiddenNeurons) - 0.5; WeightMatrixJK = rand(numHiddenNeurons, numOutputNeurons) - 0.5; %随机数在(-0.5, 0.5)之间

“sigmoidVector”函数对向量中的每个元素应用y = 1 / (1 + exp(-x))。

这是代码开始时的调试消息看起来的样子：

输出值:0.99939 | 测试值:20输出值:0.99976 | 测试值:20输出值:0.99985 | 测试值:20输出值:0.99989 | 测试值:55输出值:0.99991 | 测试值:65输出值:0.99993 | 测试值:62输出值:0.99994 | 测试值:20输出值:0.99995 | 测试值:20输出值:0.99995 | 测试值:20输出值:0.99996 | 测试值:20输出值:0.99996 | 测试值:20输出值:0.99997 | 测试值:92输出值:0.99997 | 测试值:20输出值:0.99997 | 测试值:20输出值:0.99997 | 测试值:20输出值:0.99997 | 测试值:20输出值:0.99998 | 测试值:20输出值:0.99998 | 测试值:20输出值:0.99999 | 测试值:20输出值:0.99999 | 测试值:20输出值:1 | 测试值:20输出值:1 | 测试值:62输出值:1 | 测试值:70输出值:1 | 测试值:77输出值:1 | 测试值:20** 保持在1饱和 **

显然，我希望网络训练输出值在0到100之间，以尝试匹配那些目标值！

感谢任何帮助，如果您需要更多信息，我会提供我能提供的所有信息。

回答：

sigmoid函数的范围限制在(0,1)之间，因此它永远不会达到你的目标值（因为它们都大于1）。你应该缩放你的目标值，使它们也在sigmoid的范围内。由于你知道你的目标值被限制在(0,100)的范围内，只需将它们全部除以100即可。