使用Apache Spark进行Twitter情感分析

我正在尝试使用Apache Spark进行基本的Twitter情感分析。

下面的页面解释了Apache Spark中使用的Naive Bayes函数,这可能是解决上述问题的一个候选方案。http://spark.apache.org/docs/1.0.0/mllib-naive-bayes.html

当你查看Java示例时,训练集和测试集的给出方式如下:

JavaRDD<LabeledPoint> training = ... // 训练集JavaRDD<LabeledPoint> test = ... // 测试集

我不知道它们是什么数据类型,但我能理解它们是一些非英语输入。

我有一组推文,例如:

“我爱我的国家。”
“在办公室度过了美好的一天。”
“Google Chrome很烂!”

我如何使用Naive Bayes函数来处理这些文本?

任何见解都会有所帮助。


回答:

LabeledPoint 的格式为 (double, Vectors(double[])),其中第一个参数是标签,第二个参数是特征的向量(仅为非负实数)。但在你的情况下,这不匹配。这意味着你需要找到一种方法将你的数据转换为实数。TFIDF似乎是一种方法。你可能有兴趣阅读这个示例以获得更好的理解。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注