我试图在一个摄像头馈送上运行一个模型。因此,我想加载模型并将其存储为全局变量,以便在帧进来时使用它。当我为每个帧加载模型(在处理函数中)时,它能正常工作,但当我将模型存储为全局变量时,预测行会无限期地挂起,所以感觉像是资源在不该释放的时候被释放了。
我该如何解决这个问题?
private BaseModel model;public void Initialize(){ model = BaseModel.LoadModel(networkPath);}public dynamic Process(Mat frame){ var mat = new Mat(); Cv2.Resize(frame, mat, inputSize); var image_in = mat.Convert(np.uint8); image_in = np.asfarray(image_in, np.float32); image_in /= 256; image_in = np.expand_dims(image_in, 0); var output = model.Predict(image_in); output = output[0]; return (Input: image_in, Output: output);}
回答:
我们的问题与在多个线程中使用PythonEngine有关。现在我们使用以下方式进行初始化:
if (!PythonEngine.IsInitialized) { PythonEngine.Initialize(); }model = BaseModel.LoadModel(networkPath);PythonEngine.BeginAllowThreads();
在我们的工作线程中,我们有
using (Py.GIL()) {}
包装在我们的代码周围。