我们正在使用Tensorflow。我们拥有一个包含大量单词、品牌等的数据集。我们试图为这些单词生成后缀。例如,给定’real’可能会生成’realtor’、’really’、’realestate’等。在我们的数据集中,每个单词之间由\n分隔。
到目前为止,我们已经尝试了几种方法,但似乎没有产生令人满意的结果。我认为这是一个相当简单的任务,应该能够解决。
我们正在尝试的基本思路是改编char-rnn-tensorflow。我们只是改变了抽样方式,采用加权随机概率进行抽样,直到抽到回车符。我们保留了原始实现,使用了rnn_decoder和sequence_loss_by_example,并使用rnn作为模型。
到目前为止,我们还没有得到好的样本,几乎都是随机的,有时会生成后缀,但与单词的开头没有任何关系(real -> realstation)。这可能是因为这种实现方式没有将单词分开,所以我们可能需要更简单的方法?
你会使用哪些技术来完成这样的任务?
回答:
最后,通过仔细调整网络参数并对结果应用温度控制,我们终于能够获得良好的结果。在训练过程中,序列长度非常重要。