我在一些研究论文中遇到了GFF这个术语。我在https://www.semanticscholar.org/paper/The-Systematic-Trajectory-Search-Algorithm-for-the-Chen-Tseng/5c01686a41c31a6b7a9077edb323ed88cf158a98上找到了一条关于GFF的描述,说的是“…链接不仅仅限于从一层到下一层”。这是否意味着某一层的部分链接可以跳过下一层,直接连接到非相邻的层?如果是这样,那么相邻层的链接会做什么呢?有谁能解释一下这种类型的网络吗?
回答:
我不确定你哪里感到困惑。图1中的插图对我来说很容易理解。是的,链接可以从任何层连接到任何更高的层;链接不限于连接到下一层。注意输入层的节点1如何驱动三个隐藏层的隐藏节点,以及输出层。[我将继续使用节点1;四个输入节点在拓扑上是相同的。]
我不确定你对“相邻层的链接”感到困惑的地方。从你的用法来看,我认为你把链接归属于其源节点所在的层。例如,从节点5到节点8的链接“属于”第一层(最低的)隐藏层,而不是输出层。
根据这种用法,让我们看一个具体的例子:从节点1到节点6(中间隐藏层)的链接,跳过了最低隐藏层(由节点5组成)。为了说明,我们暂时忽略节点1的其他链接。现在,节点1只驱动节点6,直接从输入层驱动。这个跳跃不会影响其他链接:它们继续执行它们的功能:将源节点的值输入到目标节点的线性方程中。节点5继续是其他输入节点的函数;节点5继续驱动节点6、7和8。
或许在每个被跳过的层中添加一个“虚拟”节点可以缓解你的担忧。同样,让我们关注从节点1(到节点5、6、7、8)的链接。不要让节点1跳层,我们在低、中、高隐藏层中添加节点1.2、1.3和1.4。替换从节点1的“跳跃”链接。相反,使用这些链接,从上(输出)到下(输入)
1.4 -> 81.3 -> 1.41.3 -> 71.2 -> 1.31.2 -> 61 -> 1.21 -> 5
在序列1 -> 1.2 -> 1.3 -> 1.4中,所有链接(边)的权重为1,偏置为0。现在你有一个拓扑结构,具有相同的代数属性,并且没有链接跳过层。
请注意,任何有限的、无环的网络都是GFF。“层”是我们设计的便利;拓扑结构仅通过从输入节点的最长路径和到输出节点的最长路径来限制节点的“层”。这有助于我们为了自己的目的(如时间安排、调试等)将节点组织成层,但广义流模拟器并不在意。它只关心哪些节点驱动哪些其他节点,以及给定节点是否拥有驱动其输出链接所需的所有输入,在下一个计算周期中。
这有帮助吗?