我有一个大型的 .txt 文件,我想将其拆分为训练集、测试集和验证集。以下是我想使用这些文件的代码行。我对如何操作没有任何直觉。
python correct_text.py --train_path /movie_dialog_train.txt \ --val_path /movie_dialog_val.txt \ --config DefaultMovieDialogConfig \ --data_reader_type MovieDialogReader \ --model_path /movie_dialog_model
回答:
您可以使用 pd.from_csv()
方法将大型文件加载到一个 Pandas DataFrame(假设为 df)中。之后,您可以将该 DataFrame 拆分为训练集(df_train)和验证集(df_val)。
然后,您可以使用 pd.to_csv()
方法两次,并将文件名作为函数参数传递,以生成 movie_dialog_train.txt 和 movie_dialog_val.txt 两个文本文件。
您可以创建一个小型 Python 脚本专门用于此操作并运行它,这样在您实际运行代码之前,训练和验证文件就已经准备好了。