我正在使用Kobe Bryant数据集。
我希望使用KnnRegressor来预测shot_made_flag。
我试图通过按season、year和month对数据进行分组来避免数据泄漏。season是预先存在的列，而year和month是我添加的列，如下所示：
kobe_data_encoded['year'] = kobe_data_encoded['game_date'].apply(lambda x: int(re.compile('(\d{4})').findall(x)[0]))kobe_data_encoded['month'] = kobe_data_encoded['game_date'].apply(lambda x: int(re.compile('-(\d+)-').findall(x)[0]))以下是我的特征预处理代码的完整内容：
然后我使用MinMaxScaler对数据进行了缩放：
# 缩放min_max_scaler = preprocessing.MinMaxScaler()scaled_features_df = kobe_data_encoded.copy()column_names = ['loc_x', 'loc_y', 'minutes_remaining', 'period', 'seconds_remaining', 'shot_distance', 'shot_type', 'shot_zone_range']scaled_features = min_max_scaler.fit_transform(scaled_features_df[column_names])scaled_features_df[column_names] = scaled_features并按season、year和month进行了分组，如上所述：
seasons_date = scaled_features_df.groupby(['season', 'year', 'month'])我的任务是使用KFold通过roc_auc评分来找到最佳的K。
这是我的实现方式：
neighbors = [x for x in range(1,50) if x % 2 != 0]cv_scores = []for k in neighbors: print('k: ', k) knn = KNeighborsClassifier(n_neighbors=k, n_jobs=-1) scores = [] accumelated_X = pd.DataFrame() accumelated_y = pd.Series() for group_name, group in seasons_date: print(group_name) group = group.drop(columns=['season', 'year', 'month']) not_classified_df = group[group['shot_made_flag'].isnull()] classified_df = group[group['shot_made_flag'].notnull()] X = classified_df.drop(columns=['shot_made_flag']) y = classified_df['shot_made_flag'] accumelated_X = pd.concat([accumelated_X, X]) accumelated_y = pd.concat([accumelated_y, y]) cv = StratifiedKFold(n_splits=10, shuffle=True) scores.append(cross_val_score(knn, accumelated_X, accumelated_y, cv=cv, scoring='roc_auc')) cv_scores.append(scores.mean())#图形视图#误分类错误MSE = [1-x for x in cv_scores]#最佳Koptimal_k_index = MSE.index(min(MSE))optimal_k = neighbors[optimal_k_index]print(optimal_k)# 绘制误分类错误与k的关系plt.plot(neighbors, MSE)plt.xlabel('邻居数量 K')plt.ylabel('误分类错误')plt.show()我不确定在这种情况下我是否正确处理了数据泄漏问题。因为如果我累积了上一赛季的数据，然后将其传递给cross_val_score，我可能会同样导致数据泄漏，因为cv可能会以一种方式分割数据，使得新赛季的数据被拟合，而上一赛季的数据被用于测试，对吗？如果是这样的话，我想知道如何在这种情况下使用K-Fold来找到最佳的k，使用这些时间数据而不会有数据泄漏。使用K-Fold来分割数据而不按比赛日期分割以避免数据泄漏是否合理？
回答：
简而言之，由于你想处理的是类似时间序列的数据，你不能使用标准的k折交叉验证。
你可能会使用未来的数据来预测过去，这是被禁止的。
你可以在这里找到一个好的方法：https://stats.stackexchange.com/questions/14099/using-k-fold-cross-validation-for-time-series-model-selection
折叠1：训练[1]，测试[2]折叠2：训练[1 2]，测试[3]折叠3：训练[1 2 3]，测试[4]折叠4：训练[1 2 3 4]，测试[5]折叠5：训练[1 2 3 4 5]，测试[6]其中数字按你的日期时间的顺序排列
