我正在使用Spacy-Transformers来构建一些自然语言处理模型。
spacy-transformers
预训练的BERT、XLNet和GPT-2的spaCy管道
该页面上的示例代码显示:
import spacynlp = spacy.load("en_core_web_trf")doc = nlp("Apple shares rose on the news. Apple pie is delicious.")
根据我从这个视频中学到的,”en_core_web_trf”似乎是spacy.load()
用于BERT模型的包。我已经搜索了Spacy-Transformers文档,但尚未找到用于访问GPT-2的类似包。是否有特定的spacy.load()
包,可以加载以使用GPT-2模型?
回答:
en_core_web_trf
使用特定的Transformers模型,但您可以使用spacy-transformers
中的TransformerModel
包装类来指定任意模型。请参阅文档了解详情。一个示例配置如下:
[model]@architectures = "spacy-transformers.TransformerModel.v1"name = "roberta-base" # 这可以是任何hub模型的名称tokenizer_config = {"use_fast": true}