我目前还在学习机器学习的初期阶段(我是一名正在提升技能的网页程序员),遇到了一个基于Kaggle提供的数据集的问题。
这个数据集的每个特征都包含1到n个标签,用来描述一顿饭的食材,而目标字段是这顿饭所属的菜系。
Ingredients {ArrayOf<string>} | Cuisine {string}[Tomato, Spaghetti, Beef, Basil, Oregano] | Italian[Coriander Seeds, Cumin, Paprika, Chicken, Garlic, Ginger] | Indian[Beef, Onion] | French
这个数据的样式是为了说明数据的描述方式,食材是我的输入,菜系是我的目标输出。
我想知道我是否在以下方法上具有正确的理论基础:
- 在预处理中遍历数据框的每个特征
- 获取所有食材并将它们添加到一个集合中
- 为每个食材在数据框中添加一个新的列,以食材命名
- 遍历每个特征,根据每个食材设置后续列为1或0(例如,将“牛肉”列设置为1)
- 基于转换后的数据集训练模型
虽然目前这种方法可能有效,但它可能不具备可扩展性,因为我目前有10,000种独特的食材,并且未来将遇到数万种更多的食材。
我的思路是否正确?我是否应该考虑未来特征的扩展?是否有任何内置的功能可以支持我正在尝试做的事情?
回答:
使用:
vocab = set(j for i in df['Ingredients'] for j in i) from sklearn.feature_extraction.text import CountVectorizercv = CountVectorizer(vocabulary=vocab, analyzer=lambda x: x)X = cv.fit_transform(df['Ingredients'])
如果将Ingredients {ArrayOf<string>}
列加载为text
,你需要通过以下方式将其转换为列表 –
df['Ingredients'] = df['Ingredients {ArrayOf<string>} '].apply(lambda x: [i.strip() for i in x.replace('[','').replace(']','').split(',')])
输出
X
将是你的输入矩阵 –
X.todense()matrix([[1, 1, 0, 0, 0, 0, 0, 0, 1, 0, 1, 1], [0, 0, 1, 1, 1, 1, 1, 0, 0, 1, 0, 0], [0, 1, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]], dtype=int64)
对于词汇表 –
cv.get_feature_names()['Basil', 'Beef', 'Chicken', 'Coriander Seeds', 'Cumin', 'Garlic', 'Ginger', 'Onion', 'Oregano', 'Paprika', 'Spaghetti', 'Tomato']