我在学校的项目中研究异常值检测。我想我会创建一个自己的小数据集,并使用DBSCAN来处理它。我打算创建一个关于网站广告点击是否作弊的数据集。以下是我将要创建的数据集的详细信息。
数据集名称:广告点击作弊检测。
列:值
来源: (分类)url: 0, 重定向: 1, 搜索: 2
之前访问过: (分类)没有:0, 几次: 1, 粉丝: 2
网站停留时间(秒): (数值)用户在离开网站前在网站上停留的时间,单位为秒。
活跃类型: (分类)假活跃: 0(比如他们只是打开网站但不做任何事情只是点击广告),正常活跃: 1, 真实活跃: 2(也许我会让它成为活跃分数:从0到10的浮点值。)
作弊(标签): (分类)没有: 0, 是: 1
我可能还会添加其他一些列,比如用户点击广告的次数,…
我的问题是,你认为DBSCAN在这个数据集上能工作得好吗?如果可以,请给我一些建议,让我创建一个更好的数据集,或者更快地创建数据集?如果不行,请建议我一些DBSCAN可以很好处理的主题的数据集。
非常感谢你。
回答:
DBSCAN天生具有检测异常值的能力。因为异常值点将无法归属于任何一个聚类。Wiki 提到:
它将密集聚集在一起的点(有许多附近邻居的点)分组,将单独位于低密度区域的点(最近的邻居距离太远的点)标记为异常值
这可以使用来自sklearn的合成数据集如make_moons
和make_blobs
轻松演示。Sklearn有一个相当不错的演示。
from sklearn.datasets import make_moonsx, label = make_moons(n_samples=200, noise=0.1, random_state=19)plt.plot(x[:,0], x[:,1],'ro')
我实现了dbscan算法来学习。(该仓库后来被移动)然而,正如Anony-Mousse所说
噪声(低密度)不等于异常值
从合成数据集中学到的直觉并不一定适用于实际的现实数据。因此,上述建议的数据集和实现仅用于学习目的。