我在使用Python 3.7和TensorFlow Lattice中的Keras预制模型构建并保存了自己的模型。然而,当我使用训练好的模型进行预测时,每个数据点的预测速度达到了毫秒级,这似乎非常慢。有没有办法加速TFL的预测过程呢?
回答:
有几种方法可以提高速度,但它们可能涉及到预测精度的权衡。我认为最有前景的三个选项是:
- 减少特征的数量
- 减少每个特征的格子数量
- 使用lattice模型的集合,每个lattice模型只接收特征的子集,然后平均不同模型的预测结果(如这里所述)
我在使用Python 3.7和TensorFlow Lattice中的Keras预制模型构建并保存了自己的模型。然而,当我使用训练好的模型进行预测时,每个数据点的预测速度达到了毫秒级,这似乎非常慢。有没有办法加速TFL的预测过程呢?
回答:
有几种方法可以提高速度,但它们可能涉及到预测精度的权衡。我认为最有前景的三个选项是: