我已经训练了一个多层感知器，用于医学影像分类任务（分类超声扫描图像是属于健康还是疾病状态）。该网络包含两个全连接的隐藏层和一个输出单元。接下来我想检查权重，以了解图像中的哪些特征（例如，像素集群）对网络区分不同类别最为重要。由于我的网络有两层隐藏权重，我该如何使用这些权重来量化每个图像像素的重要性？有这方面经验的人能否指引我找到合适的文献？谢谢。
回答：
“其他作者已经描述了几种寻找显著性的方法。其中包括基于敏感性的方法[4, 5, 6]，基于反卷积的方法[7, 8]，或者更复杂的如逐层相关性传播（LRP）[9]。”
来源 : https://arxiv.org/pdf/1704.07911.pdf
他们正在做你想要做的事情，但使用的是卷积神经网络（CNN），也许你应该从多层感知器（MLP）转向卷积神经网络（CNN），这对于医学影像分类似乎更合适。
或者也许这篇论文更适合你：
