我使用OneClassSVM
分类器处理稠密矩阵,结果相当不错。我希望在特征中加入一些文本并使用稀疏矩阵,然而在使用稀疏矩阵时,我得到了非常不同(并且错误)的结果,我不明白为什么
这是一个例子:
import iofrom pandas import pandasimport scipyfrom sklearn import svmt="""A,B,C,D,E,F 11,1,2,3,4,5 11,1,2,0,3,6 11,1,2,3,2,5 11,2,0,3,1,7 11,4,2,3,0,5"""t_test="""A,B,C,D,E,F 12,1,3,0,1,5 14,2,2,3,2,8 12,1,2,3,4,5 18,2,3,1,3,2"""df = pandas.read_csv(io.StringIO(t), dtype=float)df_test = pandas.read_csv(io.StringIO(t_test), dtype=float)cl = svm.OneClassSVM(nu=0.1, kernel='rbf', gamma=0.16)cl.fit(df)print(cl.decision_function(df_test))cl = svm.OneClassSVM(nu=0.1, kernel='rbf', gamma=0.16)cl.fit(scipy.sparse.csr_matrix(df.values))print(cl.decision_function(scipy.sparse.csr_matrix(df_test)))
结果:
#Dense[[-0.094537 ] [-0.13060355] [-0.02208006] [-0.14990236]]#sparse[[ -4.67612004e-311] [ -6.79156324e-311] [ -5.92318332e-311] [ -6.94061414e-311]]
我还尝试了scikit OneClassSVM的示例,使用稀疏矩阵,结果非常差: https://gist.github.com/Avricot/68775656ab77217e5569
稀疏矩阵有什么问题?
回答:
这是一个错误 https://github.com/scikit-learn/scikit-learn/issues/5095它在5093号拉取请求中被修复了。如果你愿意,你可以等到有人将它合并到主分支,或者现在就使用它:
git clone https://github.com/scikit-learn/scikit-learn.gitcd scikit-learn/git fetch origin refs/pull/5093/head:pn_5093git checkout pn_5093python3 setup.py install --user