### CNN特征提取

class ResNet(nn.Module):
    def __init__(self, output_features, fine_tuning=False):
        super(ResNet, self).__init__()
        self.resnet152 = tv.models.resnet152(pretrained=True)
        
        # 冻结特征提取层
        for param in self.resnet152.parameters():
            param.requires_grad = fine_tuning
            
        #self.features = self.resnet152.features
        self.num_fts = 512
        self.output_features = output_features
        
        # 从512到1024的线性层
        self.classifier = nn.Linear(self.num_fts, self.output_features)
        nn.init.xavier_uniform_(self.classifier.weight)
        
        self.tanh = nn.Tanh()
    def forward(self, x):
        h = self.resnet152(x)
        print('h:   ',h.shape)
        return h
image_model_resnet152=ResNet(output_features=10).to(device)
image_model_resnet152

在这里,打印image_model_resnet152后,我得到:

enter image description here

这里,(avgpool): Linear(in_features=2048)(classifier): Linear(in_features=512)有什么区别?

我正在实现一个图像标注模型,那么对于图像,我应该选择哪个in_features


回答:

ResNet并不像VGG那样简单:它不是一个顺序模型,即在torchvision.models.resnet152forward定义中有一些特定于模型的逻辑,例如,在CNN和分类器之间的特征扁平化。你可以查看其源代码

在这种情况下,最简单的方法是在CNN的最后一层layer4上添加一个钩子,并将该层的输出记录在一个外部的dict中。这是通过register_forward_hook完成的。

定义钩子:

out = {}
def result(module, input, output):
    out['layer4'] = output

将钩子附加到子模块resnet.layer4上:

>>> x = torch.rand(1,3,224,224)
>>> resnet = torchvision.models.resnet152()
>>> resnet.layer4.register_forward_hook(result)

推理后,你将能够访问out中的结果:

>>> resnet(x)
>>> out['layer4']
(1, 2048, 7, 7)

你可以查看我关于前向钩子更深入使用的另一个回答


一个可能的实现方式是:

class NN(nn.Module):
    def __init__(self):
        super().__init__()
        self.resnet = torchvision.models.resnet152()
        self.resnet.layer4.register_forward_hook(result)
        self.out = {}
        
    @staticmethod
    def result(module, input, output):
        out['layer4'] = output
    
    def forward(self, x):
        x = self.resnet(x)
        return out['layer4']

然后你可以为你的自定义分类器定义额外的层,并在forward中调用它们。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注