我想在我的移动应用(Android, iOS)中使用词嵌入(也称为GloVe)。然而,预训练的权重文件很大(从100MB到800MB不等)。在移动设备上存储和使用大型预训练模型的普遍接受的方法是什么?
回答:
预训练的嵌入具有庞大的词汇量,虽然你不需要存储每个词的向量,但你确实需要实际的字符串来确定模型的输入。你要么需要限制词汇量,要么允许用户通过网络查询你的模型。如果你需要在设备上使用模型,请确保异步加载,因为它会挂起你的线程。
我想在我的移动应用(Android, iOS)中使用词嵌入(也称为GloVe)。然而,预训练的权重文件很大(从100MB到800MB不等)。在移动设备上存储和使用大型预训练模型的普遍接受的方法是什么?
回答:
预训练的嵌入具有庞大的词汇量,虽然你不需要存储每个词的向量,但你确实需要实际的字符串来确定模型的输入。你要么需要限制词汇量,要么允许用户通过网络查询你的模型。如果你需要在设备上使用模型,请确保异步加载,因为它会挂起你的线程。