这是一个谜题…
我有两个包含50000多种电子产品的数据库,我希望将其中一个数据库中的产品与另一个数据库中的产品进行匹配。然而,产品名称并不总是相同的。我尝试使用Levenshtein距离来测量字符串的相似性,但这并未奏效。例如,
-LG 42CS560 42-Inch 1080p 60Hz LCD HDTV-LG 42 Inch 1080p LCD HDTV
这些产品是相同的,但它们的产品名称差异很大。
另一方面…
-LG 42 Inch 1080p LCD HDTV-LG 50 Inch 1080p LCD HDTV
这些是具有非常相似产品名称的不同产品。
我应该如何解决这个问题?
回答:
我的第一个想法是尝试将名称解析成特征描述(公司 LG
,尺寸 42 Inch
,分辨率 1080p
,类型 LCD HDTV
)。然后,您可以将这些描述进行匹配以检查兼容性;省略产品编号是可以的,但尺寸不同则不行。简单地检查共同属性是否兼容可能就足够了,或者您可能需要编写/学习关于不同属性允许差异的规则等。
根据您拥有的不同种类产品的数量以及列出的名称的差异程度,我可能会从手动定义一组属性开始,甚至可能只是添加特定的词汇/正则表达式来匹配它们,逐步查看哪些尚未被解析,并为此添加规则。我认为在术语方面可能不会有很多歧义,即一个词汇项目可能属于多个属性,尽管没有看到您的数据库,我猜我不知道。
如果这不可行,这种提取有点类似于半监督的词性标注。不过,这有些不同,因为我认为词汇量比典型的解析要有限得多,而且产品名称的空间更为层次化:resolution
标签仅适用于某些类型的产品。我对这方面的文献不太熟悉;可能有一些您可以使用的想法。