我想做的是让用户输入一个公司名称,例如微软,然后能够预测它属于计算机软件行业。我有大约150,000个公司名称和60多个行业。有些名称不是英文公司名称。
我尝试过使用Gensim训练基于公司名称的Word2Vec模型,并在将其输入到SKlearn的逻辑回归之前平均了词向量,但结果很差。我的问题是:
-
有人尝试过这种任务吗?在谷歌搜索短文本分类时,我看到的结果是关于分类短句而不是纯名称的。如果有人之前尝试过,介意分享一些关于此任务的关键词或研究论文吗?
-
如果我对每个公司有一个简短的描述而不是仅使用它们的名称,效果会更好吗?这对我的Word2Vec模型会有多大帮助,而不是仅使用公司名称?
回答:
对于您的问题,这只是公司-行业关系的问题,因此,您需要使用公司描述数据来训练您的word2vec 模型,因为word2vec的工作原理是计算与给定词相关的相似词。所以,如果您基于公司名称进行训练,那会给您带来糟糕的结果。如果您基于描述进行训练,那么您将得到与特定行业相关的相似词。通过使用这些词,您可以得出公司所属的行业。
如果您想基于公司名称进行训练,NER(命名实体标记器)将会很有用。但这不会很准确。