我需要构建一个分类器,用于识别特定领域中的命名实体。例如,如果我的领域是冰球或足球,分类器应该能够识别该领域中的命名实体,但不应识别网页上看到的所有代词。我的最终目标是通过NER来提升文本分类效果。
对于在这个领域工作的人,请建议我如何构建这样的分类器?谢谢!
回答:
如果你只是想忽略代词,你可以先运行任何词性标注器,然后再运行任何NER算法(斯坦福包是一个流行的实现),然后忽略所有是代词的命名实体。然而,代词可能指代命名实体,这对你的分类器性能来说可能重要也可能不重要。唯一确定方法是尝试一下。
一个稍微有点不相关的评论——在特定领域数据(例如冰球)上训练的NER系统更有可能识别出该领域的实体,因为它已经见过实体出现的一些上下文。根据系统的不同,它也可能识别出其他领域的实体(如果你理解我的问题正确的话,这是你不想要的),因为语法、词形模式等原因。