深度可分离卷积

我刚开始学习深度学习,最近接触到了深度可分离卷积。这种方法显著减少了处理数据所需的计算量,仅需标准卷积步骤计算量的10%左右。

我想知道这样做的直觉是什么?通过减少参数和计算量,我们确实可以获得更快的速度,但这是否会影响性能呢?

另外,这种方法是否只适用于某些特定用例,如图像处理等,还是可以应用于所有类型的数据?


回答:

直觉

这样做的直觉是将空间信息(宽度和高度)与深度信息(通道)分离。常规卷积层会在输入通道数量上合并特征图,而深度可分离卷积会在将它们相加之前执行另一个1×1卷积。

性能

将深度可分离卷积层作为常规卷积层的直接替代品,将大大减少模型中的权重数量。由于权重数量大大减少,这很可能会损害准确性。然而,如果你调整架构的宽度和深度以增加权重,你可能会在使用更少参数的情况下达到原始模型的相同准确性。同时,具有相同权重数量的深度可分离模型可能会比原始模型获得更高的准确性。

应用

你可以在任何可以应用CNN的地方使用它们。我相信你会发现深度可分离模型在图像相关任务之外的用例。只不过CNN在图像处理领域最为流行。

进一步阅读

让我无耻地推荐一下我写的文章,其中讨论了深度学习中不同类型的卷积以及它们的工作原理。或许这也有帮助。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注