我正在使用StanfordNER分类器。共有4个分类器,如下所示:
english.all.3class.distsim.crf.ser.gzenglish.muc.7class.distsim.crf.ser.gzenglish.conll.4class.distsim.crf.ser.gzexample.serialized.ncc.ncc.ser.gz
这些分类器是如何构建的?由于每个分类器基于不同的语料库,我的猜测如下:
-
在语料库上训练一个像
SVM
这样的机器学习分类器,并结合OVR
(用于多标签情况)来检测ORGANIZATION
、PERSON
、LOCATION
等实体。这意味着训练数据将是语料库中文档的全部文本。对于那段文本,我们明确指出ORGANIZATION
、PERSON
和LOCATION
。因此,分类器将能够预测这些实体。 -
训练一个机器学习分类器,将词性标签与
ORGANIZATION
、PERSON
、LOCATION
等实体联系起来。例如,可以训练一个分类器来预测哪些专有名词应被标记为ORGANIZATION
。
这是正确的总体概况吗?我只是在尝试弄清楚如何构建我自己的命名实体识别系统。
回答:
是的,这些模型是在监督数据上训练的。它们是一阶条件随机场(CRF),进行多类概率序列分类(所以不是OVR,也不是SVM)。你可以在Stanford NER页面上找到关于命名实体识别和Stanford NER的介绍。