我对OpenAI聊天完成与Azure AI Search集成中意图功能的逻辑很感兴趣。具体来说,我注意到当附加并发送聊天历史用于检索增强生成(RAG)时,响应中有一个名为“意图”的功能。这个输出似乎是一个重新组织的查询,发送到AI搜索以确保它接收到有意义的请求,使搜索引擎能够有效地完成任务。
请看这里:
completion = client.chat.completions.create( messages=[ {"role": "user", "content": "Who is the first man to land on the moon?"}, {"role": "assistant", "content": "The first man to land on the moon was Neil Armstrong."}, {"role": "user", "content": "How old was he at that time?"} ], model=deployment, extra_body={ "dataSources": [ { "type": "AzureCognitiveSearch", "parameters": { "endpoint": os.environ["SEARCH_ENDPOINT"], "key": os.environ["SEARCH_KEY"], "indexName": os.environ["SEARCH_INDEX_NAME"], } } ] })
聊天完成不仅返回正确答案,即38岁,还返回了一个“意图”功能:
print(completion.choices[0].message.context['intent'])["How old was Neil Armstrong when he landed on the moon?", "What was Neil Armstrong's age when he landed on the moon?", "How old was Neil Armstrong when he was on the moon?"]
我非常希望了解这一机制,因为我正在使用一个无状态的LangChain代理,我希望实现类似的功能。
我想知道OpenAI使用什么提示来重新组织查询,并使用“意图”功能将其发送到Azure AI Search。我希望能够使用提示或某些工具来复制这一功能。
我正在寻找一种解决方案,可以总结用户输入并将这些重新组织的查询发送到LangChain代理。有没有文档或报告解释如何在标准聊天完成中实现这一意图功能?此外,OpenAI是否有用于重新组织和查询问题的提示?
回答:
这是从聊天历史中检测到的意图,请查看这里,考虑到你提供的所有聊天历史来获取意图。
Azure OpenAI没有公开如何创建意图。因此,你可以使用意图检测模型或带有示例的提示来创建意图。
这里是一个使用提示的示例。
以及输出:
现在你可以将这个响应用于你的LangChain代理中。