我在检查Android设备上可以同时运行的计算机视觉模型数量的可行性,但找不到任何相关资源。
我有两个计算机视觉模型,一个用于对约20个类别的图像进行分类,另一个我想集成的模型是图像深度图模型。这两个模型都将实时运行。因此我想知道它们是否能够在仅有1GB内存的Android设备上运行。
回答:
根据我的经验,这在很大程度上取决于硬件以及神经网络架构本身和对其进行的优化方法。因此,你的问题没有确切的答案。
然而,我可以告诉你,达到10 FPS将非常困难,特别是在我假设的旧设备上只有1GB的内存。我有一个TFLite Yolov5s模型,量化为INT8,我向其输入320×320的图像,在2015年的旧三星平板电脑上运行(3GB内存),平均推理时间为0.47秒。这只是一个模型。