如何在NLTK Python中检测文本的不确定性?

我刚开始学习NLTK和机器学习,我的目标是为句子提供不确定性评级。例如,像This is likely caused by a..这样的句子可能会获得6分的确定性评分,而There is definitely something wrong with me可能会获得10分,I think it could possibly happen则可能得3分。

无论评分系统如何,“确定”和“不确定”的分类也足以满足我的需求。

我没有找到任何现成的相关研究。我应该如何着手进行?我确实有一些未经训练的文本数据。


回答:

据我所知,现有的自然语言处理工具包没有这样的功能。

你需要训练你自己的模型,为此你需要训练数据。如果你有一组数据,其中每句话都带有不确定性标签,那么你就可以在这些数据上训练一个文本分类模型。

如果你没有带标签的数据,有一个CoNLL 2010共享任务是关于检测不确定性/对冲的,你可以获取那个任务的数据集,并在其上训练一个简单的文本分类器,然后将训练好的模型应用到你自己的数据集上。假设你的数据性质与他们的数据没有太大差异,这样应该可以奏效。

对于文本分类,你可以简单地使用scikit-learn库,它非常直观易用。

你可能还会发现以下参考资料有用:

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注