我有一个卷积神经网络（CNN），在训练数据上的表现非常好（准确率96%，损失约为1.~），但在测试数据上的表现很差（准确率50%，损失3.5）。

回答：

过拟合的明显特征是当你的验证损失开始增加，而你的训练损失继续减少时，例如：

（图片改编自维基百科关于过拟合的条目）

以下是一些其他表示过拟合的图表（来源）：

另见Stack Overflow上的讨论线程如何知道是否发生了欠拟合或过拟合？。

显然，你的损失图确实表现出这种行为，所以，是的，你确实是过拟合了。

相反，你在评论中链接的图表：

并未表现出这种行为，因此在这里你不是实际过拟合（你只是达到了一个饱和点，之后你的验证误差不再改善）。