关于自编码器的问题

我有三个关于自编码器的问题,希望能得到您的帮助:

1- 我注意到关于深度自编码器(AE)的研究论文很少,尽管这个概念在许多教程和例子中都有详细解释,而且大多数教程都声称这种模型非常强大。特别是在异常或新奇检测领域,AE的研究论文为何如此稀少?

2- 在我看过的所有教程中,自编码器的阈值都是手动设置的(硬设置),通过测试多个值并选择最佳值来作为异常检测的决策边界。是否有其他技术来选择阈值?换句话说,有哪些不同的阈值机制可以自动检测阈值?


回答:

关于你的第一个问题(不包括异常检测部分),Keras的创建者François Chollet在他的(强烈推荐的)博客文章Building Autoencoders in Keras中给出了一些很好的提示:

自编码器有什么用途?

它们在实际应用中很少被使用。2012年,它们曾短暂地在深度卷积神经网络的贪婪逐层预训练中找到应用,但很快就过时了,因为我们开始意识到更好的随机权重初始化方案足以从头开始训练深度网络。2014年,批量归一化开始允许构建更深的网络,从2015年底开始,我们可以使用残差学习从头开始训练任意深度的网络。

[…]

那么自编码器有什么特别之处呢?

它们主要的声誉来自于在许多在线初级机器学习课程中被介绍。结果,许多初学者非常喜欢自编码器,无法满足于它们。这就是这个教程存在的理由!

更新

尽管如此,实际上似乎确实有一些案例中自编码器被用于异常检测;以下是一些最近的论文:

使用L2归一化深度自编码器表示进行聚类和无监督异常检测

通过变分自编码器进行无监督异常检测,用于Web应用中的季节性关键绩效指标

使用鲁棒深度自编码器进行异常检测

以及博客文章:

使用Keras中的自编码器进行信用卡欺诈检测

H2O – 自编码器和异常检测(Python)

深度学习分析如何保持您的数据和决策的一致性

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注