我需要一个模型来完成以下任务:
一组单词及其词性标签。我想判断这组单词是否构成一个名词短语。
我能想到的一个模型是隐马尔可夫模型(HMM)。
对于那些是名词短语的序列,我们训练一个HMM(HMM+)。对于那些不是名词短语的序列,我们尝试另一个HMM(HMM-)。当我们对一个序列进行预测时,我们可以计算P(序列|HMM+)和P(序列|HMM-)。如果前者更大,我们认为这个短语是名词短语,否则不是。
你觉得这个方法怎么样?你有其他适合这个问题的模型吗?
回答:
我的直觉是HMM不是合适的模型。它可以用来猜测词性标签,通过基于先验概率和从一个标记到下一个标记的条件概率,推导出概率最高的标签序列。
对于完整的名词短语,我不明白这个模型如何匹配。
任何基于概率的方法都将非常难以训练,因为名词短语可能包含许多标记。这会导致非常多的组合。要获得有用的训练概率,你需要非常庞大的训练集。
你可以通过制定一套语法规则,例如在词性标签上使用正则表达式,快速且轻松地获得一个足够好的起点,按照以下描述进行:
http://en.wikipedia.org/wiki/Noun_phrase#Components_of_noun_phrases
或任何其他对名词短语的语言学描述。