我想构建一个简单的工具,允许用户拍摄文档照片并提取信息,如日期/时间和其他一些信息。
通过Chat GPT的用户界面做到这一点很简单,上传一张图片,向它询问文档中的一些信息。但仅仅从我的代码中调用Chat GPT的API真的是一个可行的解决方案吗?
- 这感觉就像是一个可能会在没有通知的情况下改变的黑盒子,即脆弱的。
- 我以为我需要训练并部署自己的模型,使用Chat GPT对我想要做的事情来说是不是昂贵的过度解决方案?如果我最终有了很多用户,我认为这会成为一个问题。
注意:我没有真正的AI经验或知识,但我有很多编程经验(我全职工作为开发人员)。
回答:
有几种方法可以实现,但你可以从Ollama
开始,你需要下载一个model
,比如llama3
,如果你有Python经验,你就很幸运了。
你不需要训练模型,市面上有不同的模型可以满足你的需求或解决这类问题,你只需要向llm
提供你的文档(图片、文本、PDF等),然后对它们提问即可。
然而,在某些情况下,如果你的PDF包含金融信息如年金等
,你可能需要对其进行训练,以便它能理解如何进行这些类型的计算,或者更好的是编写一个继承自Langchain_tool
的函数,以指导llm
如何在这些特定情况下使用它。
这感觉就像是一个可能会在没有通知的情况下改变的黑盒子,即脆弱的。我以为我需要训练并部署自己的模型,使用Chat GPT对我想要做的事情来说是不是昂贵的过度解决方案?如果我最终有了很多用户,我认为这会成为一个问题。
以下是实现这一目标的一般步骤:
步骤1:首先下载Ollama
,然后你可以拉取llama
镜像作为你的llm
,执行docker pull
拉取llama,建议使用llama3
。
步骤2:寻找一个可以将图片转换为文本或PDF的库,例如
光学字符识别库(OCR)
步骤3:寻找一个将文本转换为向量的向量数据库(如FAISS、chromadb等),这使得信息提取变得容易。
步骤4:将你的文档输入到向量数据库中,以便它可以将其转换为向量,因为数字是好的…