如何在Tensorflow中使用逐事件权重?

在我的数据集中,每个条目(事件)都有一个权重。这个权重由多个量组成,但基本上代表了这个事件对数据的重要性,必须加以考虑。

在Tensorflow中训练时,如何使用这些权重?我不想简单地将其作为另一个特征来使用。

谢谢


回答:

一个简单的解决方案是在计算小批次的总成本之前,将每个样本的计算成本乘以其权重。

假设你有以下内容:

# 每个样本的特征向量
x = tf.placeholder(tf.float32, shape=[batch_size, num_features])
# 每个样本的标量权重
x_weights = tf.placeholder(tf.float32, shape=[batch_size])
# 每个样本的输出向量
y = tf.placeholder(tf.float32, shape=[batch_size, num_outputs])
# ...
logits = ...
# 在此插入适当的成本函数
cost = tf.nn.softmax_cross_entropy_with_logits(logits, y)

计算出的cost张量是一个长度为batch_size的向量。你可以简单地与x_weights进行逐元素乘法来获得加权成本。

overall_cost = tf.mul(cost, x_weights) / batch_size

最后,你可以将overall_cost用作你的优化器中要最小化的值。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注