在我的数据集中,每个条目(事件)都有一个权重。这个权重由多个量组成,但基本上代表了这个事件对数据的重要性,必须加以考虑。
在Tensorflow中训练时,如何使用这些权重?我不想简单地将其作为另一个特征来使用。
谢谢
回答:
一个简单的解决方案是在计算小批次的总成本之前,将每个样本的计算成本乘以其权重。
假设你有以下内容:
# 每个样本的特征向量
x = tf.placeholder(tf.float32, shape=[batch_size, num_features])
# 每个样本的标量权重
x_weights = tf.placeholder(tf.float32, shape=[batch_size])
# 每个样本的输出向量
y = tf.placeholder(tf.float32, shape=[batch_size, num_outputs])
# ...
logits = ...
# 在此插入适当的成本函数
cost = tf.nn.softmax_cross_entropy_with_logits(logits, y)
计算出的cost
张量是一个长度为batch_size
的向量。你可以简单地与x_weights
进行逐元素乘法来获得加权成本。
overall_cost = tf.mul(cost, x_weights) / batch_size
最后,你可以将overall_cost
用作你的优化器中要最小化的值。