是否可以使用TensorFlowJS生成OpenAI GPT-2的文本?
如果不能,限制是什么,比如模型格式或其他?
回答:
这是可能的。或许在2023年有人会觉得这有用:
-
实现这一目标的一种方法是使用
tensorflowjs-converter
转换TF模型,如Frederik所述(这种方法可能的问题是缺少自定义层) -
使用gpt-tfjs – 在TensorFlow.js中实现的GPT模型。可以直接从HF加载权重(示例)。我开发它是为了在浏览器中实验模型训练。
如果你只是想生成文本而不进行训练,你有更多选择:
- 使用transformers.js或一般的ONNX。这个库非常好,并且遵循Python的
transformers
库API。不幸的是 – 仅限推理。 - 使用ggml + WASM。这是一个编译到WebAssembly的C/C++模型实现(示例,讨论)