匹配产品字符串的最佳机器学习技术

这是一个谜题…

我有两个包含50000多种电子产品的数据库,我希望将其中一个数据库中的产品与另一个数据库中的产品进行匹配。然而,产品名称并不总是相同的。我尝试使用Levenshtein距离来测量字符串的相似性,但这并未奏效。例如,

-LG 42CS560 42-Inch 1080p 60Hz LCD HDTV-LG 42 Inch 1080p LCD HDTV

这些产品是相同的,但它们的产品名称差异很大。

另一方面…

-LG 42 Inch 1080p LCD HDTV-LG 50 Inch 1080p LCD HDTV

这些是具有非常相似产品名称的不同产品。

我应该如何解决这个问题?


回答:

我的第一个想法是尝试将名称解析成特征描述(公司 LG,尺寸 42 Inch,分辨率 1080p,类型 LCD HDTV)。然后,您可以将这些描述进行匹配以检查兼容性;省略产品编号是可以的,但尺寸不同则不行。简单地检查共同属性是否兼容可能就足够了,或者您可能需要编写/学习关于不同属性允许差异的规则等。

根据您拥有的不同种类产品的数量以及列出的名称的差异程度,我可能会从手动定义一组属性开始,甚至可能只是添加特定的词汇/正则表达式来匹配它们,逐步查看哪些尚未被解析,并为此添加规则。我认为在术语方面可能不会有很多歧义,即一个词汇项目可能属于多个属性,尽管没有看到您的数据库,我猜我不知道。

如果这不可行,这种提取有点类似于半监督的词性标注。不过,这有些不同,因为我认为词汇量比典型的解析要有限得多,而且产品名称的空间更为层次化:resolution标签仅适用于某些类型的产品。我对这方面的文献不太熟悉;可能有一些您可以使用的想法。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注