我正在TensorFlow Federated中实现一个回归模型。我从这个Keras教程中使用的简单模型开始：https://www.tensorflow.org/tutorials/keras/regression
我将模型改为使用联邦学习。这是我的模型：
Start iterationsmetrics=<mean_squared_error=95.8644027709961,loss=96.28633880615234>metrics=<mean_squared_error=9.511247634887695,loss=9.522096633911133>metrics=<mean_squared_error=8.26853084564209,loss=8.277074813842773>metrics=<mean_squared_error=7.975323677062988,loss=7.9771647453308105>metrics=<mean_squared_error=7.618809700012207,loss=7.644164562225342>metrics=<mean_squared_error=7.347906112670898,loss=7.340310096740723>metrics=<mean_squared_error=7.210267543792725,loss=7.210223197937012>metrics=<mean_squared_error=7.045553207397461,loss=7.045469760894775>metrics=<mean_squared_error=6.861278533935547,loss=6.878870487213135>metrics=<mean_squared_error=6.80275297164917,loss=6.817670822143555>evaluation = tff.learning.build_federated_evaluation(model_fn=create_tff_model)test_metrics = evaluation(state.model, datasets)print(test_metrics)<mean_squared_error=27.308320999145508,loss=27.19877052307129>我很困惑，为什么在10次迭代后评估的MSE在训练集上比迭代过程返回的MSE高得多。我在这里做错了什么吗？这是TensorFlow中联邦学习实现中的一些隐藏问题吗？有人能向我解释一下吗？
回答：
你实际上是碰到了联邦学习中一个非常有趣的现象。特别是，这里需要问的问题是：训练指标是如何计算的？
训练指标通常是在本地训练期间计算的；因此，它们是在客户端拟合其本地数据时计算的；在TFF中，它们是在每次本地步骤之前计算的——这发生在这里的前向传递调用期间。如果你想象一个极端的情况，即指标仅在每个客户端的训练轮结束时计算，你会清楚地看到一件事——客户端报告的指标代表了它对本地数据的拟合程度。
然而，联邦学习必须在每次训练轮结束时生成一个单一的全局模型——在联邦平均中，这些本地模型在参数空间中被平均。在一般情况下，如何直观地解释这样的步骤并不清楚——参数空间中非线性模型的平均并不给你平均预测或任何类似的东西。
联邦评估采用这种平均模型，并在每个客户端上运行本地评估，完全不拟合本地数据。因此，如果你的客户端数据集具有相当不同的分布，你应该期望联邦评估返回的指标与联邦训练一轮返回的指标大不相同——联邦平均报告的是在适应本地数据的过程中收集的指标，而联邦评估报告的是在将所有这些本地训练模型平均后收集的指标。
实际上，如果你交替调用你的迭代过程的next函数和你的评估函数，你会看到这样的模式：
train metrics=<mean_squared_error=88.22489929199219,loss=88.6319351196289>eval metrics=<mean_squared_error=33.69473648071289,loss=33.55160140991211>train metrics=<mean_squared_error=8.873666763305664,loss=8.882776260375977>eval metrics=<mean_squared_error=29.235883712768555,loss=29.13833236694336>train metrics=<mean_squared_error=7.932246208190918,loss=7.918393611907959>eval metrics=<mean_squared_error=27.9038028717041,loss=27.866817474365234>train metrics=<mean_squared_error=7.573018550872803,loss=7.576478958129883>eval metrics=<mean_squared_error=27.600923538208008,loss=27.561887741088867>train metrics=<mean_squared_error=7.228050708770752,loss=7.224897861480713>eval metrics=<mean_squared_error=27.46322250366211,loss=27.36537742614746>train metrics=<mean_squared_error=7.049572944641113,loss=7.03688907623291>eval metrics=<mean_squared_error=26.755760192871094,loss=26.719152450561523>train metrics=<mean_squared_error=6.983217716217041,loss=6.954374313354492>eval metrics=<mean_squared_error=26.756895065307617,loss=26.647253036499023>train metrics=<mean_squared_error=6.909178256988525,loss=6.923810005187988>eval metrics=<mean_squared_error=27.047882080078125,loss=26.86684799194336>train metrics=<mean_squared_error=6.8190460205078125,loss=6.79202938079834>eval metrics=<mean_squared_error=26.209386825561523,loss=26.10053062438965>train metrics=<mean_squared_error=6.7200140953063965,loss=6.737307071685791>eval metrics=<mean_squared_error=26.682661056518555,loss=26.64984703063965>也就是说，你的联邦评估也在下降，只是比你的训练指标下降得慢得多——实际上是在测量你的客户端数据集的变化。你可以通过运行以下命令来验证这一点：
eval_metrics = evaluation(state.model, [datasets[0]])print('eval metrics on 0th dataset={}'.format(eval_metrics))eval_metrics = evaluation(state.model, [datasets[1]])print('eval metrics on 1st dataset={}'.format(eval_metrics))eval_metrics = evaluation(state.model, [datasets[2]])print('eval metrics on 2nd dataset={}'.format(eval_metrics))你会看到类似这样的结果：
eval metrics on 0th dataset=<mean_squared_error=9.426984786987305,loss=9.431192398071289>eval metrics on 1st dataset=<mean_squared_error=34.96992111206055,loss=34.96992492675781>eval metrics on 2nd dataset=<mean_squared_error=72.94075775146484,loss=72.88787841796875>所以你可以看到，你的平均模型在这三个数据集上的表现有很大的不同。
最后一点：你可能会注意到，你的evaluate函数的最终结果并不是你三个损失的平均值——这是因为evaluate函数将是按示例加权的，而不是按客户端加权的——也就是说，数据更多的客户端在平均值中获得更多的权重。
希望这对你有帮助！
