我最近对人工智能、神经网络,特别是遗传算法产生了浓厚的兴趣,并希望构建一个小型AI来解决某个问题。我对此进行了研究,我认为我对非增长型神经网络的工作原理以及其权重如何演化有了足够的理解,但是我找不到关于如何确定网络是否需要生成新神经元,以及应该从多少个神经元开始等问题的解释。
P.S.我是计算机科学学生,职业是程序员,所以我对算法和图形有很好的理解,但还没有学习过AI。
回答:
遗传算法不会“决定”是否应该添加或移除神经元,而是通过随机机会来进行的。当这种改变对网络性能有积极影响时,它会在未来的世代中保留下来——适者生存。
NEAT论文开始时只有输入节点和输出节点的网络。然后它通过随机(mutationRate
)机会逐步演化出更多的节点和连接!
我已经用JavaScript实现了这个过程,所以如果你想看看一个网络如何演化成一个XOR门,可以查看这里。我还编写了一个Python库(NeuralFit),如果你更喜欢的话。