无法将大型 .txt 文件拆分为训练、测试和验证部分,用于深度文本校正器

我有一个大型的 .txt 文件,我想将其拆分为训练集、测试集和验证集。以下是我想使用这些文件的代码行。我对如何操作没有任何直觉。

python correct_text.py --train_path                         /movie_dialog_train.txt \                       --val_path /movie_dialog_val.txt \                       --config DefaultMovieDialogConfig \                       --data_reader_type MovieDialogReader \                       --model_path /movie_dialog_model

回答:

您可以使用 pd.from_csv() 方法将大型文件加载到一个 Pandas DataFrame(假设为 df)中。之后,您可以将该 DataFrame 拆分为训练集(df_train)和验证集(df_val)。

然后,您可以使用 pd.to_csv() 方法两次,并将文件名作为函数参数传递,以生成 movie_dialog_train.txtmovie_dialog_val.txt 两个文本文件。

您可以创建一个小型 Python 脚本专门用于此操作并运行它,这样在您实际运行代码之前,训练和验证文件就已经准备好了。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注