我不是机器学习专家，只了解一些基本知识。我知道有技术可以减少神经网络的尺寸，比如蒸馏和剪枝。但我不知道如何高效地执行这些技术。
现在我需要解决一个非常实际的问题。我想将FaceNet面部识别模型部署到移动设备上。识别准确性与性能和尺寸之间可能存在权衡。我不知道哪种尺寸的模型最适合我的需求。我认为我需要测试不同尺寸的模型，并通过实证找出最佳的模型。为此，我应该获取通过压缩其网站上的预训练FaceNet模型获得的多种尺寸的模型。例如，30Mb版本的FaceNet，40Mb版本的FaceNet等。
然而，模型压缩不是免费的，需要花费金钱。我担心我会做一些非常愚蠢且昂贵的事情。有什么推荐的方法来做这件事吗？对于非机器学习专家，这个问题是否有通用的解决方案？
回答：
网络“压缩”不像一个可以从慢/准确到快/不准确之间随意移动的滑块。
从你的起始模型开始，你可以应用一些技术，这些技术可能会或可能不会减少网络的尺寸，也可能会或可能不会降低准确性。例如，将权重从float32转换为float16肯定会将网络的内存需求减少一半，但也可能引入小的准确性降低，并且并非所有设备都支持这种转换。
我的建议是：从基础模型开始，并对其进行一些测试。了解你与目标FPS和应用尺寸的差距有多大，然后决定哪种方法更有意义以达到你心中的目标。
由于你说你不是机器学习专家，我认为这种任务（至少据我所知）需要对该主题进行一定程度的学习和实验，我会从一个开源解决方案开始，例如https://tvm.apache.org/。
