是否有办法将sklearn的Isolation Forest应用于一维数组或列表?我所见过的所有例子都是针对二维或更高维度的数据。
我目前已经开发了一个具有三个特征的模型,示例代码片段如下所示:
# dataframe of three columnsdf_data = datafr[['col_A', 'col_B', 'col_C']]w_train = page_data[:700]w_test = page_data[700:-2]from sklearn.ensemble import IsolationForest# fit the modelclf = IsolationForest(max_samples='auto')clf.fit(w_train)#testing it using test sety_pred_test = clf.predict(w_test)
我主要参考的资源:IsolationForest example | scikit-learn
df_data是一个包含三列的数据框。我实际上是想在一维或列表数据中查找异常值。
另一个问题是如何调整Isolation Forest模型?一种方法是增加污染值以减少误报。但是如何使用其他参数如n_estimators, max_samples, max_features, verbose等?
回答:
将Isolation Forest应用于一维数组或列表是没有意义的。因为在这种情况下,它将只是特征到目标的一对一映射。
您可以阅读官方文档以更好地了解不同参数的帮助
- contamination
数据集的污染量,即数据集中异常值的比例。用于拟合时定义决策函数的阈值。
尝试在[0,0.5]范围内实验不同的值,看看哪个效果最好
- max_features
从X中抽取的特征数,用于训练每个基础估计器。
尝试像5,6,10等值,任何您选择的整数,并用最终的测试数据进行验证
- n_estimators 尝试多个值如10,20,50等,看看哪个效果最好。
您还可以使用GridSearchCV来自动化参数估计过程。
只需使用gridSearchCV尝试不同的值,看看哪个效果最好。
尝试这样做
from sklearn.model_selection import GridSearchCVfrom sklearn.metrics import f1_score, make_scorermy_scoring_func = make_scorer(f1_score)parameters = {'n_estimators':[10,30,50,80], 'max_features':[0.1, 0.2, 0.3,0.4], 'contamination' : [0.1, 0.2, 0.3]}iso_for = IsolationForest(max_samples='auto')clf = GridSearchCV(iso_for, parameters, scoring=my_scoring_func)
然后使用clf
来拟合数据。尽管请注意,GridSearchCV需要x
和y
(即训练数据和标签)来使用fit
方法。
注意:如果您希望使用GridSearchCv与Isolation Forest,您可以阅读这篇博客文章以获取进一步的参考,否则您可以手动尝试不同的值并绘制图表来查看结果。