从Twitter获取稳定的消息流

我想尝试制作一个简单的Twitter客户端,它能学习我的喜好,并自动寻找朋友和有趣的推文,为我提供相关信息。

为了开始,我需要获取一连串随机的Twitter消息,这样我就可以在这些消息上测试一些机器学习算法。

我应该使用哪些API方法来实现这一点?我是否需要定期轮询来获取消息,还是有办法让Twitter在消息发布时推送给我?

我还对了解任何类似的项目感兴趣。


回答:

我使用tweepy来访问Twitter API,并监听他们提供的公共流——这应该是所有推文的百分之一样本。这是我的样本代码,我自己在使用。你仍然可以使用基本认证机制进行流式传输,尽管他们可能很快会改变这一点。相应地更改USERNAME和PASSWORD变量,并确保你尊重Twitter返回的错误代码(这个样本代码可能在某些情况下没有遵守Twitter想要的指数退避机制)。

import tweepyimport timedef log_error(msg):    timestamp = time.strftime('%Y%m%d:%H%M:%S')    sys.stderr.write("%s: %s\n" % (timestamp,msg))class StreamWatcherListener(tweepy.StreamListener):  def on_status(self, status):      print status.text.encode('utf-8')    def on_error(self, status_code):      log_error("Status code: %s." % status_code)      time.sleep(3)      return True  # keep stream alive    def on_timeout(self):      log_error("Timeout.")def main():    auth = tweepy.BasicAuthHandler(USERNAME, PASSWORD)    listener = StreamWatcherListener()    stream = tweepy.Stream(auth, listener)    stream.sample()if __name__ == '__main__':    try:      main()    except KeyboardInterrupt:      break    except Exception,e:      log_error("Exception: %s" % str(e))      time.sleep(3)

我还设置了socket模块的超时时间,我认为我在Python的默认超时行为上遇到了一些问题,所以要小心。

import socketsocket.setdefaulttimeout(timeout)

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注