摘要:寻找Python代码的DBSCAN实现,用于根据’contents’列对多列CSV文件进行聚类
输入:
输入CSV文件行样本 Rank, Domain, Contents 1, abc.com, hello random text out 2, xyz.com, hello random somethingelse 3, not.com, a b c d 4, plus.com, a b asdsadsa asdsadasdsadsa 5, minus.com, man win 其中, 列1 => Rank = 数字 列2 => Domain = 域名 例如 abc.com 列3 => Contents = 单词列表(字符串,这是从HTML页面提取并清理的单词)
输出:
聚类输出基于相似内容列表 聚类1: abc.com, xyz.com 聚类2: not.com, plus.com 聚类3: minus.com .... 请注意:在输出中,我不是在寻找同一聚类中的单词。相反,我在寻找基于列3('contents')相似内容聚类的'域名'列
我研究了以下资源,但它们基于kmeans,与我寻找的DBSCAN聚类输出无关。请注意,在这种情况下,提供聚类数量将不适用,因为我们不希望根据输入限制聚类数量。
2) 使用scikit-learn的kmeans在Python中聚类文本文档
3) http://brandonrose.org/clustering
4) https://datasciencelab.wordpress.com/2013/12/12/clustering-with-k-means-in-python/
因此,
输入 <= 带有'Rank', 'Domain', 'Contents'的CSV文件输出 <= 带有域名[不是内容]的聚类Python中DBSCAN聚类的实现将是理想的。
谢谢!
回答:
首先,您需要选择数据集中的”Contents”列。您可以使用Python的csv
模块来完成这一步。
然后,您需要将文本转换为向量,以便DBSCAN可以进行训练。您提供的第二个链接包含了完成这一步所需的所有内容。
然后,您需要在这些向量上训练DBSCAN。您可以使用scikit-learn中的DBSCAN实现作为示例。
一旦您获得了与向量(即CSV文件的行)关联的标签,您就可以按聚类对行数进行分组,并检索域名。