关于OpenAI和Azure AI Search集成中意图功能的询问

我对OpenAI聊天完成与Azure AI Search集成中意图功能的逻辑很感兴趣。具体来说,我注意到当附加并发送聊天历史用于检索增强生成(RAG)时,响应中有一个名为“意图”的功能。这个输出似乎是一个重新组织的查询,发送到AI搜索以确保它接收到有意义的请求,使搜索引擎能够有效地完成任务。

请看这里:

completion = client.chat.completions.create(    messages=[        {"role": "user", "content": "Who is the first man to land on the moon?"},        {"role": "assistant", "content": "The first man to land on the moon was Neil Armstrong."},        {"role": "user", "content": "How old was he at that time?"}    ],    model=deployment,    extra_body={        "dataSources": [            {                "type": "AzureCognitiveSearch",                "parameters": {                    "endpoint": os.environ["SEARCH_ENDPOINT"],                    "key": os.environ["SEARCH_KEY"],                    "indexName": os.environ["SEARCH_INDEX_NAME"],                }            }        ]    })

聊天完成不仅返回正确答案,即38岁,还返回了一个“意图”功能:

print(completion.choices[0].message.context['intent'])["How old was Neil Armstrong when he landed on the moon?", "What was Neil Armstrong's age when he landed on the moon?", "How old was Neil Armstrong when he was on the moon?"]

我非常希望了解这一机制,因为我正在使用一个无状态的LangChain代理,我希望实现类似的功能。

我想知道OpenAI使用什么提示来重新组织查询,并使用“意图”功能将其发送到Azure AI Search。我希望能够使用提示或某些工具来复制这一功能。

我正在寻找一种解决方案,可以总结用户输入并将这些重新组织的查询发送到LangChain代理。有没有文档或报告解释如何在标准聊天完成中实现这一意图功能?此外,OpenAI是否有用于重新组织和查询问题的提示?


回答:

这是从聊天历史中检测到的意图,请查看这里,考虑到你提供的所有聊天历史来获取意图。

Azure OpenAI没有公开如何创建意图。因此,你可以使用意图检测模型或带有示例的提示来创建意图。

这里是一个使用提示的示例。

以及输出:

enter image description here

现在你可以将这个响应用于你的LangChain代理中。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注