属性减少与维度减少之间有什么区别?
哪些方法被认为是属性减少技术,而非维度减少?
回答:
我不知道机器学习中是否有“属性减少”这个术语。你能提供一个相关的链接吗?
另一方面,有些论文使用“属性选择”这个术语来指代特征选择。
特征选择是维度减少的一种特殊类型,其中产生的特征集必须是原始特征的一个子集。重要的是,这意味着除了包含或排除之外,特征没有任何形式的变换或修改。
一般来说,维度减少通常是通过首先将输入特征转换为一种新表示来实现的,例如通过使用对应于PCA维度的坐标变换,或者通过使用核函数将数据投影到一个新空间(可能具有更高的维度),然后使用某种信息度量来修剪该新空间中的特征。
维度减少还可能涉及更简单的变换,例如由于观察到的共线性而将输入特征向量的多个组件平均在一起。尽管这种变换很简单(取平均值),但它仍然与特征选择不同,因为新特征不是原始特征的子集。
总之,主要区别在于特征选择除了删除一些不太重要的原始输入特征之外,不会改变任何东西。它保持剩余特征不变。维度减少则会变换数据,最终表示可能与原始输入特征有很大不同(除了维度之外)。