区分具有相同含义但使用不同词语组合的句子

我正在尝试学习自然语言处理,并且被一个开放式的问题困住了。我如何将意思相同的句子归类在一起?可能有一组有限的句子,它们具有相同的含义。我应该使用哪种算法来将它们归类在一起?

例如,考虑以下句子:

There is a man. There is a lion. The lion will chase the man on seeing him. If the lion catches the man he dies. There is a man and a lion. If the lion catches the man he dies. The lion will chase the man if he sees him. You have a lion that chases men on seeing them. There is one man. If the lion catches the man he dies.

基本上,所有这些句子表达的意思是:

1 Lion. 1 Man. Lions chase men. If lion catches men the man dies.

我无法确定一种机器学习或深度学习算法的类别来帮助我实现类似的目标。请指导我正确的方向,或者指出一些足够好的算法来实现这一点。

另一个重要因素是拥有可扩展的解决方案。可能有很多这样的句子存在。那会怎么样呢?

一个可能的解决方案是:使用句子中词语的词性和词语之间的关系作为某些机器学习算法的特征。但这在大量句子中是否实用?我们是否需要考虑更多的东西?


回答:

基于深度学习的一个解决方案是使用词嵌入(理想情况下,词嵌入应该通过固定维度的向量来表示一个词,使得相似的词在该嵌入空间中接近,甚至像Germany - Berlin ~= Italy - Rome这样的向量运算也可能成立),两个著名的词嵌入技术是Word2VecGlove,另一种选择是通过固定维度的向量来表示一个句子,使得相似的句子在该嵌入空间中接近,请查看Skip-Thought向量。到目前为止,我们只是尝试以更语义化的数值方式表示文本(词语/句子),下一步是捕捉当前上下文(段落、文档)的含义,一个非常简单的做法是简单地平均词语/句子嵌入(你必须尝试一下,看看是否有效),更好的方法是使用某种序列模型,如RNN(实际上是LSTMGRU)来捕捉之前所说内容。使用序列模型的问题在于它需要监督(你应该有标记的数据,但如果你没有,我猜这是情况),那么就在语言建模设置中使用序列模型,并在最后一个时间步获取RNN/GRU/LSTM的隐藏表示,即在读取最后一个词后或如果你使用简单方法时的聚合词嵌入。一旦你有了隐藏表示,你可以应用任何聚类技术来聚类不同的段落(你必须找到合适的距离度量),或者你可以手动应用某种距离度量并定义或学习一个阈值,以便将相似的段落归类为一个类别。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注