我编写了以下代码进行测试，因为在我的原始网络中，我使用了ModuleDict，并且根据我输入的索引，它会切片并只训练网络的部分部分。

我想确保只有切片的层会更新它们的权重，所以我写了一些测试代码来再次检查。结果我得到了一些奇怪的结果。假设我的模型有两层，layer1是一个全连接层，layer2是一个Conv2d层，如果我切片网络并只使用layer2，我期望layer1的权重保持不变，因为它们未被使用，而layer2的权重会在一个epoch后更新。

所以我的计划是使用一个for循环在训练前获取网络中的所有权重，然后在1个optimizer.step()后再做一次。两次我都会将这些权重完全独立地存储在两个Python列表中，以便稍后比较它们的结果。奇怪的是，如果我用torch.equal()比较这两个列表，它们完全相同。我以为这是因为内存中可能还存在某种隐藏的链接？所以我尝试在循环中获取权重时使用.detach()，结果仍然相同。在这种情况下，layer2的权重应该是不同的，因为它应该包含训练前的网络权重。

请注意，在下面的代码中，我实际上使用了layer1并忽略了layer2。

完整代码：

class mymodel(nn.Module):    def __init__(self):        super().__init__()         self.layer1 = nn.Linear(10, 5)        self.layer2 = nn.Conv2d(1, 5, 4, 2, 1)        self.act = nn.Sigmoid()    def forward(self, x):        x = self.layer1(x) #只使用layer1和act，忽略layer2，因此只有layer1和act的权重应该被更新        x = self.act(x)        return xmodel = mymodel()weights = []for param in model.parameters(): # 循环获取模型更新前的权重并存储它们    print(param.size())    weights.append(param)critertion = nn.BCELoss() #设置损失函数和优化器optimizer = optim.Adam(model.parameters(), lr = 0.001)foo = torch.randn(3, 10) #假输入target = torch.randn(3, 5) #假目标result = model(foo) #预测和比较以及反向传播loss = criterion(result, target)optimizer.zero_grad()loss.backward()optimizer.step()weights_after_backprop = [] # 反向传播后的权重for param in model.parameters():    weights_after_backprop.append(param) # 只有layer1的权重应该更新，layer2未被使用for i in zip(weights, weights_after_backprop):    print(torch.equal(i[0], i[1]))# **打印所有True，当"layer1"和"act"应该不同时，我也尝试在循环中调用param.detach，但得到了相同的结果。

回答：

你必须使用clone来克隆参数，否则你只是复制了引用。

weights = []for param in model.parameters():    weights.append(param.clone())criterion = nn.BCELoss() # 设置损失函数和优化器optimizer = optim.Adam(model.parameters(), lr=0.001)foo = torch.randn(3, 10) # 假输入target = torch.randn(3, 5) # 假目标result = model(foo) # 预测和比较以及反向传播loss = criterion(result, target)optimizer.zero_grad()loss.backward()optimizer.step()weights_after_backprop = [] # 反向传播后的权重for param in model.parameters():    weights_after_backprop.append(param.clone()) # 只有layer1的权重应该更新，layer2未被使用for i in zip(weights, weights_after_backprop):    print(torch.equal(i[0], i[1]))

这会得到

FalseFalseTrueTrue