theano – 如何处理多个相同函数

输入是一个大小可变的数组。我只能在train_model中一次处理一个样本。我希望累积批次中各元素的目标总和,然后应用正则化和梯度下降。

目前,这是进行每次元素xi更新的训练阶段。

for epoch in range(n_epochs):
    minibatch_avg_cost = 0
    for xi in dataset.get_next_xi(batch_size):
        minibatch_avg_cost += train_model(xi)
        print(minibatch_avg_cost)

如何获取train_model(xi)在批次中各元素的结果,然后进行更新呢?


回答:

可以使用dataset.get_next_xi(batch_size)中的所有元素作为输入,并创建一个theano函数来计算平均成本(而不是只计算一个成本),然后使用平均成本进行更新。你可以从这里查看示例代码

他们这样使用来自训练模型的theano函数:

train_model = theano.function(
    inputs=[index],
    outputs=cost,
    updates=updates,
    givens={
        x: train_set_x[index * batch_size: (index + 1) * batch_size],
        y: train_set_y[index * batch_size: (index + 1) * batch_size]
    })

其中cost是数据集批次的平均成本

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注