有没有人尝试过在特定领域的语料库上微调Glove嵌入?
我在各种自然语言处理任务中发现微调word2vec嵌入非常有效,但我在想,如果我在特定领域的语料库上生成共现矩阵,并在此语料库上训练(用预训练嵌入初始化的)glove嵌入,是否能带来类似的改进。
回答:
我自己也在尝试做同样的事情。你可以试试mittens。
他们已经成功构建了一个框架。Christopher D. Manning(GloVe的共同作者)与此项目有关联。
有没有人尝试过在特定领域的语料库上微调Glove嵌入?
我在各种自然语言处理任务中发现微调word2vec嵌入非常有效,但我在想,如果我在特定领域的语料库上生成共现矩阵,并在此语料库上训练(用预训练嵌入初始化的)glove嵌入,是否能带来类似的改进。
回答:
我自己也在尝试做同样的事情。你可以试试mittens。
他们已经成功构建了一个框架。Christopher D. Manning(GloVe的共同作者)与此项目有关联。