我想使用ReLU而不是常见的sigmoid单元来训练DNN。我已经成功实现了下面的分类问题示例（使用softmax层），但我现在尝试将其应用于回归问题。我的数据集是基于负荷预测的。进入链接描述

回答：

是的，你可以使用深度学习来进行回归，主要的区别在于输出层和成本函数。想象一下，你有多个隐藏层，最后一层使用激活函数f(x) = x，而不是softmax，其中x是最后一个隐藏层的加权总和。

对于成本函数，你可以使用常见的均方误差，而不是常用的交叉熵（通常与softmax一起使用）。看看我创建的这个用于回归的神经网络（它是从头开始用Python编写的，但你可以用它作为在某个框架上实现的灵感）https://github.com/llealgt/bikeshare_regression_neural_network/blob/master/DLND%20Your%20first%20neural%20network.ipynb