我训练了一个分类器,如下所示:
text_clf = Pipeline([('vect', CountVectorizer()),('tfidf', TfidfTransformer()),('clf', clf),]) y_predicted=cross_validation.cross_val_predict(text_clf, X, y, cv=3, n_jobs=3, verbose=2)
由于我使用了包含tfidf统计的管道对象,我想知道tfidf值是否为每个折叠重新计算,还是在整个数据集上计算并在每个折叠中使用相同的值。
回答:
在交叉验证(CV)过程中,管道的每个组件都会为每个折叠重新计算。反之(即在整个数据集上计算tf-idf值,并在CV过程中对管道的其余组件使用这些值)将完全违背CV和管道的核心思想。
文档中有提到吗,因为我没找到
确实没有提到;关键是,即使在文档中,有些事情被认为过于基础而没有明确提及。