假设我得到了带有以下标题的数据集:id、query、product_title、product_description、brand、color、relevance。
其中只有id和relevance是数值格式,其余字段都包含文字和数字。Relevance表示产品相对于给定查询的相关性或排名。例如,query = “abc” 和 product_title = “product_x” –> relevance = “2.3”
在训练集中,所有这些字段都有填写,但在测试集中,relevance没有给出,我需要通过一些机器学习算法来找出这个值。我在确定应该使用哪些特征时遇到了问题?例如,我应该在这里使用TF-IDF。除了TF-IDF之外,我还能从这些数据集中提取哪些其他特征?
此外,如果你能推荐一些关于“特征提取”主题的书籍/资源,那将非常棒。我在这一阶段总是感到困扰。提前感谢。
回答:
我认为没有哪本书能直接给你需要的答案,因为特征提取阶段直接与要解决的问题和现有数据相关,你能找到的唯一建议就是创建能够描述你所拥有数据的特征。过去我在处理类似你的问题时使用过的一些特征包括:
- 查询词在产品标题中的数量。
- 查询词在产品描述中的数量。
- n-gram计数
- tf-idf
- 余弦相似度
所有这些都在进行了一些预处理之后,比如将所有文本转换为大写(或小写)、词干提取、标准词典规范化。
再次强调,这取决于问题和数据,你不会找到直接的答案,这就像提出一个问题:“我需要开发一个产品销售系统,我该怎么做?有书籍推荐吗?”你会找到关于编程和软件工程的书籍,但不会找到关于开发你特定系统的书籍,你需要使用一般的知识和创造力来构思你的解决方案。