我通过网格搜索找到了深度网络中最佳节点数量,使用AUROC作为最优性的衡量标准。假设在第一个隐藏层中使用100个节点时,AUROC值最高,达到了0.7。我可以假设在添加第二个隐藏层时,第一个隐藏层保持100个节点会得到最佳模型吗?我不想在添加第二个隐藏层时,同时改变第一和第二个隐藏层的节点数量进行网格搜索,因为随着隐藏层的增加,这将导致运行时间呈指数级增长。
回答:
“当然不能!关于这个错误假设有太多要说的,但我建议你阅读一些关于神经网络的基本介绍(考虑到一些非线性因素)。我非常确定,如果这个假设是正确的,我们的世界将会非常不同(神经网络架构优化在多项式时间内完成;这是你的假设对我来说的一个含义)” – 感谢[隐藏人名]。我无意抄袭你的回答,只是想让其他人看到这是正确的答案!