我知道支持向量机、随机森林和逻辑回归是著名的用于分类的机器学习(ML)算法。
我对特征提取、选择和分类这些术语感到困惑。
上述ML算法是否用于提取特征而不是选择特征的一部分?
这些ML算法是否包括特征提取和分类的双重过程?
训练ML算法的结果(准确率、特异性、敏感性等)是否告诉我们在特征提取后对疾病进行分类的结果?
回答:
关于您对这三个术语的困惑,
特征提取: 当您想从原始数据中创建新特征时(例如,您有transaction_day列,但您只对月份感兴趣,因此您从transaction_day创建一个新的transaction_month列)
特征选择: 您有很多特征,但只想选择重要的那些(选择多少是个需要进一步研究的话题)。这可以加速学习过程,并且在正确的策略下,许多应用的准确性不会受到影响。
分类: 是一种监督式(标记的)机器学习家族,您的目标是将观测值分配给已知类别(例如,将邮件分类为垃圾邮件或普通邮件)
注意:一些机器学习算法如”Lasso“内置了特征选择功能,但对于其他算法,训练后特征的较大系数通常显示该特征的重要性(了解更多关于递归特征消除(rfe)的信息)
您还可以在该帖子中找到很好的讨论。