关于OpenAI和Azure AI Search集成中意图功能的询问

我对OpenAI聊天完成与Azure AI Search集成中意图功能的逻辑很感兴趣。具体来说,我注意到当附加并发送聊天历史用于检索增强生成(RAG)时,响应中有一个名为“意图”的功能。这个输出似乎是一个重新组织的查询,发送到AI搜索以确保它接收到有意义的请求,使搜索引擎能够有效地完成任务。

请看这里:

completion = client.chat.completions.create(    messages=[        {"role": "user", "content": "Who is the first man to land on the moon?"},        {"role": "assistant", "content": "The first man to land on the moon was Neil Armstrong."},        {"role": "user", "content": "How old was he at that time?"}    ],    model=deployment,    extra_body={        "dataSources": [            {                "type": "AzureCognitiveSearch",                "parameters": {                    "endpoint": os.environ["SEARCH_ENDPOINT"],                    "key": os.environ["SEARCH_KEY"],                    "indexName": os.environ["SEARCH_INDEX_NAME"],                }            }        ]    })

聊天完成不仅返回正确答案,即38岁,还返回了一个“意图”功能:

print(completion.choices[0].message.context['intent'])["How old was Neil Armstrong when he landed on the moon?", "What was Neil Armstrong's age when he landed on the moon?", "How old was Neil Armstrong when he was on the moon?"]

我非常希望了解这一机制,因为我正在使用一个无状态的LangChain代理,我希望实现类似的功能。

我想知道OpenAI使用什么提示来重新组织查询,并使用“意图”功能将其发送到Azure AI Search。我希望能够使用提示或某些工具来复制这一功能。

我正在寻找一种解决方案,可以总结用户输入并将这些重新组织的查询发送到LangChain代理。有没有文档或报告解释如何在标准聊天完成中实现这一意图功能?此外,OpenAI是否有用于重新组织和查询问题的提示?


回答:

这是从聊天历史中检测到的意图,请查看这里,考虑到你提供的所有聊天历史来获取意图。

Azure OpenAI没有公开如何创建意图。因此,你可以使用意图检测模型或带有示例的提示来创建意图。

这里是一个使用提示的示例。

以及输出:

enter image description here

现在你可以将这个响应用于你的LangChain代理中。

Related Posts

使用LSTM在Python中预测未来值

这段代码可以预测指定股票的当前日期之前的值,但不能预测…

如何在gensim的word2vec模型中查找双词组的相似性

我有一个word2vec模型,假设我使用的是googl…

dask_xgboost.predict 可以工作但无法显示 – 数据必须是一维的

我试图使用 XGBoost 创建模型。 看起来我成功地…

ML Tuning – Cross Validation in Spark

我在https://spark.apache.org/…

如何在React JS中使用fetch从REST API获取预测

我正在开发一个应用程序,其中Flask REST AP…

如何分析ML.NET中多类分类预测得分数组?

我在ML.NET中创建了一个多类分类项目。该项目可以对…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注