区分具有相同含义但使用不同词语组合的句子

我正在尝试学习自然语言处理,并且被一个开放式的问题困住了。我如何将意思相同的句子归类在一起?可能有一组有限的句子,它们具有相同的含义。我应该使用哪种算法来将它们归类在一起?

例如,考虑以下句子:

There is a man. There is a lion. The lion will chase the man on seeing him. If the lion catches the man he dies. There is a man and a lion. If the lion catches the man he dies. The lion will chase the man if he sees him. You have a lion that chases men on seeing them. There is one man. If the lion catches the man he dies.

基本上,所有这些句子表达的意思是:

1 Lion. 1 Man. Lions chase men. If lion catches men the man dies.

我无法确定一种机器学习或深度学习算法的类别来帮助我实现类似的目标。请指导我正确的方向,或者指出一些足够好的算法来实现这一点。

另一个重要因素是拥有可扩展的解决方案。可能有很多这样的句子存在。那会怎么样呢?

一个可能的解决方案是:使用句子中词语的词性和词语之间的关系作为某些机器学习算法的特征。但这在大量句子中是否实用?我们是否需要考虑更多的东西?


回答:

基于深度学习的一个解决方案是使用词嵌入(理想情况下,词嵌入应该通过固定维度的向量来表示一个词,使得相似的词在该嵌入空间中接近,甚至像Germany - Berlin ~= Italy - Rome这样的向量运算也可能成立),两个著名的词嵌入技术是Word2VecGlove,另一种选择是通过固定维度的向量来表示一个句子,使得相似的句子在该嵌入空间中接近,请查看Skip-Thought向量。到目前为止,我们只是尝试以更语义化的数值方式表示文本(词语/句子),下一步是捕捉当前上下文(段落、文档)的含义,一个非常简单的做法是简单地平均词语/句子嵌入(你必须尝试一下,看看是否有效),更好的方法是使用某种序列模型,如RNN(实际上是LSTMGRU)来捕捉之前所说内容。使用序列模型的问题在于它需要监督(你应该有标记的数据,但如果你没有,我猜这是情况),那么就在语言建模设置中使用序列模型,并在最后一个时间步获取RNN/GRU/LSTM的隐藏表示,即在读取最后一个词后或如果你使用简单方法时的聚合词嵌入。一旦你有了隐藏表示,你可以应用任何聚类技术来聚类不同的段落(你必须找到合适的距离度量),或者你可以手动应用某种距离度量并定义或学习一个阈值,以便将相似的段落归类为一个类别。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注