我对这个领域以及相关术语都很陌生,所以如果我说得不对,请随时指正。我有两个这样的数据集:
数据集1:
A B C 0 EA 0 C 0 0A 0 C D EA 0 C 0 E
我对这个数据集的解释是,在某个时间点上,(A,B,C,E) 一起出现过,(A,C), (A,C,D,E) 等也同样如此。
数据集2:
5A 1B 5C 0 2E4A 0 5C 0 02A 0 1C 4D 4E3A 0 4C 0 3E
我对这个数据集的解释是,在某个时间点上,A 出现了5次,B 出现了1次,C 出现了5次,E 出现了2次,等等。
我试图找出哪些物品一起出现,并且如果可能的话,也想找出其中的因果关系。为此,我不明白如何同时使用这两个数据集(或者一个是否足够)。如果有一个好的教程会很有帮助,但我主要的问题是应该使用哪个数据集,以及如何进行(i)构建频繁项集和(ii)在它们之间构建关联规则。
有人能指向一些实用的教程/示例(最好是用Python的)或者至少简要说明如何处理这个问题吗?
回答:
关于关联规则的一些理论知识:
- 关联规则是一种无向数据挖掘类型,它寻找数据中的模式,而目标事先未指定。模式是否有意义留给人类解释。
- 关联规则的目标是检测大型数据集中类别变量特定值之间的关系或关联。
- 关联规则可以解释为“70% 购买葡萄酒和奶酪的顾客也会购买葡萄”。
要寻找关联规则,可以使用Apriori算法。虽然已经存在许多Python实现,但大多数在实际使用中效率不高:
- 源1:http://code.google.com/p/autoflash/source/browse/trunk/python/apriori.py?r=31
- 源2:http://www.nullege.com/codes/show/src%40l%40i%40libbyr-HEAD%40test_freq_item_algos.py/5/apriori/python
或者使用Orange数据挖掘库,它有一个很好的关联规则库。
使用示例:
'''将第一个示例保存为item.basket,格式为A, B, C, EA, CA, C, D, EA, C, E
在保存文件的同一目录下打开ipython,或者使用os模块
>>> import os
>>> os.chdir("c:/orange")'''import orangeitems = orange.ExampleTable("item")#通过调整support参数来过滤规则rules = orange.AssociationRulesSparseInducer(items, support = 0.1) for r in rules: print "%5.3f %5.3f %s" % (r.support, r.confidence, r)
要了解更多关于关联规则/频繁项集挖掘的知识,我的推荐书籍包括:
- “Introduction to Data mining” – Vipin Kumar,最适合初学者
- “Data mining and knowledge discovery handbook”,适合高级用户
- “Mining massive data” – 提供如何在现实生活中使用以及如何构建高效解决方案的建议,免费书籍,http://i.stanford.edu/~ullman/mmds.html
- 当然,还有许多出色的科学论文可以阅读:例如,在MS Academic上搜索关于频繁模式挖掘的内容
没有捷径可走。