我遇到了一个听起来对我来说具有挑战性的任务。有一个包含A、G、T、C结构的巨大DNA数据集,共有4个完全不同的类别作为输入。看起来像这样:
1 2 3 4 5 6 7 8 9 … 1.000+A A G G G G G G GG G C C C C C C CT T C C C C C C CG G A A A A A A AT T C C C C C C CC C T T T T T T TT T C C C C C C C…30.000+
我想询问关于数据处理的建议。面对如此巨大的维度,应该用数值表示还是一热编码?比如A用[0,0,0,1]表示,G用[0,0,1,0]表示等等,还是简单地用0, 1, 2, 3表示?谈到神经网络(NN),我想从简单的开始,逐步过渡到更现代和更深层次的网络。典型的数值表示可以通过pandas和sklearn库在几行代码内轻松完成,但将如此庞大的数据集转换为一热编码,看起来是一个有趣的任务。使用pd.get_dummies从形状为(1019, 27041)的数据,我们得到了(1019, 54082),但不明白为什么形状只增加了两倍,因为我们有4个不同的字母。谢谢!
回答:
形状增加2倍而不是4倍的原因是,每个序列中只有2个类别。(在你的例子中,第一行是A和G,第二行是G和C,第三行是T和C,依此类推)
下面的例子将更好地解释额外列的数量
In [38]: df = pd.DataFrame({'A': ['a', 'b', 'a'], 'B': ['b', 'a', 'c'], 'C': [1, 2, 3]}) In [39]: df Out[39]: A B C0 a b 11 b a 22 a c 3In [40]: pd.get_dummies(df) Out[40]: C A_a A_b B_a B_b B_c0 1 1 0 0 1 01 2 0 1 1 0 02 3 1 0 0 0 1