我有三个关于自编码器的问题,希望能得到您的帮助:
1- 我注意到关于深度自编码器(AE)的研究论文很少,尽管这个概念在许多教程和例子中都有详细解释,而且大多数教程都声称这种模型非常强大。特别是在异常或新奇检测领域,AE的研究论文为何如此稀少?
2- 在我看过的所有教程中,自编码器的阈值都是手动设置的(硬设置),通过测试多个值并选择最佳值来作为异常检测的决策边界。是否有其他技术来选择阈值?换句话说,有哪些不同的阈值机制可以自动检测阈值?
回答:
关于你的第一个问题(不包括异常检测部分),Keras的创建者François Chollet在他的(强烈推荐的)博客文章Building Autoencoders in Keras中给出了一些很好的提示:
自编码器有什么用途?
它们在实际应用中很少被使用。2012年,它们曾短暂地在深度卷积神经网络的贪婪逐层预训练中找到应用,但很快就过时了,因为我们开始意识到更好的随机权重初始化方案足以从头开始训练深度网络。2014年,批量归一化开始允许构建更深的网络,从2015年底开始,我们可以使用残差学习从头开始训练任意深度的网络。
[…]
那么自编码器有什么特别之处呢?
它们主要的声誉来自于在许多在线初级机器学习课程中被介绍。结果,许多初学者非常喜欢自编码器,无法满足于它们。这就是这个教程存在的理由!
更新
尽管如此,实际上似乎确实有一些案例中自编码器被用于异常检测;以下是一些最近的论文:
通过变分自编码器进行无监督异常检测,用于Web应用中的季节性关键绩效指标
以及博客文章: