scikit-learn中train_test_split()函数的异常行为

Python 3.5(通过anaconda安装)SciKit 0.17.1

我实在无法理解为什么train_test_split()函数会给我提供我认为不可靠的训练案例列表分割结果。

这是一个例子。我的列表trnImgPaths包含3个类别,每个类别有67张图片(总共201张图片):

['/Caltech101/ferry/image_0001.jpg',   ... thru ... '/Caltech101/ferry/image_0067.jpg', '/Caltech101/laptop/image_0001.jpg',   ... thru ... '/Caltech101/laptop/image_0067.jpg', '/Caltech101/airplane/image_0001.jpg',   ... thru ... '/Caltech101/airplane/image_0067.jpg']

我的目标列表trnImgTargets在长度上与此完全匹配,并且类别本身也与trnImgPaths完美对齐。

In[148]: len(trnImgPaths)Out[148]: 201In[149]: len(trnImgTargets)Out[149]: 201

如果我运行:

[trnImgs, testImgs, trnTargets, testTargets] = \    train_test_split(trnImgPaths, trnImgTargets, test_size=141, train_size=60, random_state=42)

或者

[trnImgs, testImgs, trnTargets, testTargets] = \    train_test_split(trnImgPaths, trnImgTargets, test_size=0.7, train_size=0.3, random_state=42)

或者

[trnImgs, testImgs, trnTargets, testTargets] = \    train_test_split(trnImgPaths, trnImgTargets, test_size=0.7, train_size=0.3)

虽然我最终得到的结果是:

In[150]: len(trnImgs)Out[150]: 60In[151]: len(testImgs)Out[151]: 141In[152]: len(trnTargets)Out[152]: 60In[153]: len(testTargets)Out[153]: 141

但我从未得到训练集完美的20-20-20分割。我可以通过手动检查和使用混淆矩阵进行理智检查来确认这一点。以下是上述每个实验的结果,分别是:

[[19  0  0] [ 0 21  0] [ 0  0 20]][[19  0  0] [ 0 21  0] [ 0  0 20]][[16  0  0] [ 0 22  0] [ 0  0 22]]

我期望分割是完全平衡的。为什么会发生这种情况呢?

甚至看起来它可能在事先就误分类了一些案例,因为对于给定类别永远不会有n=22的训练案例。


回答:

简而言之:这是预期的行为。

随机分割并不能保证“平衡”的分割。这就是分层分割的用途(在sklearn中也有实现)。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注