我有一个关于机器学习在现实世界中的应用的问题。这听起来可能有点傻,哈哈。
我自学机器学习有一段时间了,大多数练习都是使用CSV文件作为数据源(包括处理过的和原始的)。我想问一下,除了导入CSV文件之外,还有没有其他方法可以为机器学习提供/传输数据?
例如:实时流式传输Facebook/Twitter的动态数据用于机器学习,而不是收集旧数据并将其存储到CSV文件中。
回答:
数据源可以是任何东西。通常,它是以CSV或JSON文件的形式提供的。但在现实世界中,比如你有一个像Twitter这样的网站,正如你提到的,你会将数据存储在关系型数据库中,比如SQL数据库,对于某些数据,你会将它们放入内存缓存中。
你基本上可以利用这两者来检索和处理你的数据。这里的关键是当你有太多的数据无法一次性装入内存时,你不能简单地查询所有数据并处理它们,在这种情况下,你将使用一些智能算法来分块处理数据。
一些数据库如SQL的好处在于它们为你提供了一套可以在SQL脚本中直接调用的函数,以便高效地计算某些数据。例如,你可以使用SUM()
函数在整个表中计算某一列的总和,这使得数据操作既高效又简单。