我在PyTorch中修改一个预训练的EfficientNet模型。我按以下顺序进行操作：

1. 创建默认模型，并加载ImageNet权重。

2. 然后，修改第一层的通道数，删除一些层并添加一些新层。

from efficientnet_pytorch import EfficientNetfrom efficientnet_pytorch.utils import Conv2dStaticSamePaddingPATH = "../input/efficientnet-pytorch/efficientnet-b0-08094119.pth"model = EfficientNet.from_name('efficientnet-b0')model.load_state_dict(torch.load(PATH))# 扩展模型以支持4个通道model._conv_stem = Conv2dStaticSamePadding(4, 32, kernel_size = (3,3), stride = (2,2),                                                              bias = False, image_size = 512)model._fc = torch.nn.Linear(in_features=1280, out_features=2, bias=True)

我的问题是：我加载的原始权重会怎样？它们还会存在吗，还是整个模型都会被随机初始化？

回答：

如果你重新定义了一些层，像你对model._conv_stem和model._fc所做的那样，那么这些层确实会被随机初始化，这意味着加载的权重将不再用于这些层。模型的其余部分当然会保持不变，并继续使用加载的权重。