机器学习数据供应的替代方法(除了使用CSV文件之外)

我有一个关于机器学习在现实世界中的应用的问题。这听起来可能有点傻,哈哈。

我自学机器学习有一段时间了,大多数练习都是使用CSV文件作为数据源(包括处理过的和原始的)。我想问一下,除了导入CSV文件之外,还有没有其他方法可以为机器学习提供/传输数据?

例如:实时流式传输Facebook/Twitter的动态数据用于机器学习,而不是收集旧数据并将其存储到CSV文件中。


回答:

数据源可以是任何东西。通常,它是以CSV或JSON文件的形式提供的。但在现实世界中,比如你有一个像Twitter这样的网站,正如你提到的,你会将数据存储在关系型数据库中,比如SQL数据库,对于某些数据,你会将它们放入内存缓存中。

你基本上可以利用这两者来检索和处理你的数据。这里的关键是当你有太多的数据无法一次性装入内存时,你不能简单地查询所有数据并处理它们,在这种情况下,你将使用一些智能算法来分块处理数据。

一些数据库如SQL的好处在于它们为你提供了一套可以在SQL脚本中直接调用的函数,以便高效地计算某些数据。例如,你可以使用SUM()函数在整个表中计算某一列的总和,这使得数据操作既高效又简单。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注