今天参加了机器学习考试，对其中一个问题不太确定。你们会选择以下哪个选项？

问题：使用单层人工神经网络（相较于多层）的优势是什么？

• a) 学习速度更快
• b) 所有输入变量都是独立的
• c) 可以学习任意复杂的决策
• d) 限制偏差更少

只有一个选项是正确的。

回答：

我实际上觉得这个问题相当有趣，我不明白为什么会有人投反对票（而且没有关闭投票——如果有人认为这超出了范围，这将是合理的）。

• 学习速度更快 – 相当正确，在一层神经网络中，我们有一个更简单的函数模型，参数更少，因此应该收敛得更快。尽管如此，我会说相当正确，因为对于非常特定的数据，实际情况可能恰恰相反——一切都取决于初始化、处理等。
• 所有输入变量都是独立的 – 独立于什么？这个答案看起来很奇怪，这不是模型的特征，而是基于数据的特征，所以在这种特定测试的情况下——也是错误的
• 可以学习任意复杂的决策 – 错误，无论是单层还是多层神经网络，除非我们有更多的假设（至少两层，连续的、可微分的、非线性激活函数，任意数量的隐藏单元，偏置的存在）
• 限制偏差更少 – 错误，限制偏差是对所搜索的模型类别施加的限制。在单层神经网络的情况下，我们限制在线性分类器（或多或少，取决于激活函数/核化的使用），这是一小部分可能的模型（比多层感知器可用的模型范围窄得多）