是否有可能使用神经网络建立一个由参数解释的分类模型，就像在logit或线性概率模型中那样？

回答：

神经网络本身就是一个由其参数解释的分类模型。

让我们回到基础。考虑一个具有N个输入和一个输出的单个神经元。它应用的函数形式为：

x = g(所有输入的加权和)

，其中g是某些非线性函数，如sigmoid或tanh或ReLU——具体的函数确实会影响性能，但与我们的讨论无关。

问题在于，类别之间的分隔面是线性的（假设基于类似于x>0.5的分类）。

问题是许多现实世界的问题并不是线性的。它们实际上是极其复杂的问题，因此我们需要一个能够估计这种高度非线性函数的模型。

现在，让我们想象一个小型神经网络，第一层有2个神经元，输出层有1个神经元。

输入层的2个神经元将有它们的输出：

x_1 = g(所有输入的加权和)x_2 = g(所有输入的加权和)

（g通常在一层的所有神经元中是相同的。它不必是相同的，但否则没有太大意义。在接下来的讨论中，我们假设g在所有地方都是相同的）。

现在，x_1和x_2是另一层神经元的输入，因此它的输出（以及整个网络的输出）是：

X = w_1*x_1 + w_2*x_2 = w_1*g(所有输入的加权和) + w_2*g(所有输入的加权和)

这是一个具有N个输入、输入层有2个神经元和输出层有一个神经元的神经网络估计的函数。当然，它由2n+2个权重参数化：每个输入神经元n个权重和输出神经元2个权重。

正如你所注意到的那样，这个表达式写在纸上相当困难（在StackOverflow上写更难），对于深度神经网络会变得极其复杂。然而，本质上，所有神经网络都是这个长而相对简单的表达式的简单图形模型，我们对每个节点的输入进行加权求和，并应用一个非线性函数。

深度神经网络的趋势上升是由于这种模型能够估计高度非线性函数的能力。从技术上讲，根据通用近似定理，我们只需要一个隐藏层（想象一下之前的网络，输入层有2个神经元，该层有远超过2个的神经元）。但这实际上设计和训练起来相当不实用（部分原因是该层需要大量的神经元）。因此，人们开始在另一层上叠加越来越多的层，我们得到了如今的复杂架构：大量的加法、乘法和g的链条。