对于电影评论数据集,我正在创建一个朴素贝叶斯多项式模型。现在,训练数据集中包含按类型分类的评论。因此,与其为电影评论数据集创建一个忽略类型特征的通用模型,我该如何训练一个模型,同时考虑到评论中出现的词语的tf-idf和类型特征?我是需要为每种类型创建一个模型,还是可以将这些特征整合到一个模型中?
Training Dataset Sample:genre, review, classificationRomantic, The movie was really emotional and touched my heart!, PositiveAction, It was a thrilling movie, Positive....Test Data Set:Genre, reviewAction, The movie sucked bigtime. The action sequences didnt fit into the plot very well
回答:
根据文档,The multinomial distribution normally requires integer feature counts
。作为输入提供的分类变量,尤其是如果它们被编码为整数,可能不会对模型的预测能力产生积极影响。如上所述,您可以考虑使用神经网络,或者完全删除类型列。如果在拟合模型后,仅凭文本特征就显示出足够的预测能力,可能甚至不需要添加分类变量作为输入。
我尝试这个任务的方式是通过堆叠虚拟分类值和文本特征,并将堆叠的数组输入到SGD模型中,同时提供目标标签。然后,您将执行网格搜索以选择最佳超参数组合。