使用Python对不同类别的n长度数组进行分类数据编码

我目前还在学习机器学习的初期阶段(我是一名正在提升技能的网页程序员),遇到了一个基于Kaggle提供的数据集的问题。

这个数据集的每个特征都包含1到n个标签,用来描述一顿饭的食材,而目标字段是这顿饭所属的菜系。

Ingredients {ArrayOf<string>} | Cuisine {string}[Tomato, Spaghetti, Beef, Basil, Oregano] | Italian[Coriander Seeds, Cumin, Paprika, Chicken, Garlic, Ginger] | Indian[Beef, Onion] | French

这个数据的样式是为了说明数据的描述方式,食材是我的输入,菜系是我的目标输出。

我想知道我是否在以下方法上具有正确的理论基础:

  • 在预处理中遍历数据框的每个特征
  • 获取所有食材并将它们添加到一个集合中
  • 为每个食材在数据框中添加一个新的列,以食材命名
  • 遍历每个特征,根据每个食材设置后续列为1或0(例如,将“牛肉”列设置为1)
  • 基于转换后的数据集训练模型

虽然目前这种方法可能有效,但它可能不具备可扩展性,因为我目前有10,000种独特的食材,并且未来将遇到数万种更多的食材。

我的思路是否正确?我是否应该考虑未来特征的扩展?是否有任何内置的功能可以支持我正在尝试做的事情?


回答:

使用:

vocab = set(j for i in df['Ingredients'] for j in i) from sklearn.feature_extraction.text import CountVectorizercv = CountVectorizer(vocabulary=vocab, analyzer=lambda x: x)X = cv.fit_transform(df['Ingredients'])

如果将Ingredients {ArrayOf<string>}列加载为text,你需要通过以下方式将其转换为列表 –

df['Ingredients'] = df['Ingredients {ArrayOf<string>} '].apply(lambda x: [i.strip() for i in x.replace('[','').replace(']','').split(',')])

输出

X 将是你的输入矩阵 –

X.todense()matrix([[1, 1, 0, 0, 0, 0, 0, 0, 1, 0, 1, 1],        [0, 0, 1, 1, 1, 1, 1, 0, 0, 1, 0, 0],        [0, 1, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]], dtype=int64)

对于词汇表 –

cv.get_feature_names()['Basil', 'Beef', 'Chicken', 'Coriander Seeds', 'Cumin', 'Garlic', 'Ginger', 'Onion', 'Oregano', 'Paprika', 'Spaghetti', 'Tomato']

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注