问题是我在训练值中得到的误差几乎在0.8到1.0之间,这是不可以接受的。我该如何找到减少这个误差的方法?我已经尝试过降低训练速率,但没有效果。我目前使用Excel表中的数据集来训练我的系统。这里是我使用的样本数据集的链接:http://www.mediafire.com/download/j9o676nvqr32fnb/dataset1.xlsx这是我使用的代码:
import numpy as npimport xlrddef nonlin(x,deriv=False): if(deriv==True): return x*(1-x) return 1/(1+np.exp(-x))addr="/home/shashwat08/pycodes/ann/dataset1.xlsx"wb=xlrd.open_workbook(addr)sheet=wb.sheet_by_index(0)output=[[sheet.cell_value(r,1) for r in range(sheet.nrows)]] #output arraymv=[[sheet.cell_value(r,0) for r in range(sheet.nrows)]] #input arrayoutput=np.array(output)mv=np.array(mv)op=output.ravel()ip=mv.ravel()np.random.seed(1)syn0=2*np.random.random((1,4))-1syn1=2*np.random.random((4,1))-1for i in range(sheet.nrows): for j in xrange(100000): l0=ip[i] l1=nonlin(np.dot(l0,syn0)) l2=nonlin(np.dot(l1,syn1)) l2_err=op[i]-l2 if(j%10000)==0: print("Error "+ str(np.mean(np.abs(l2_err)))) l2_delta=l2_err*nonlin(l2,deriv=True) #delta value l1_err=l2_delta.dot(syn1.T) l1_delta=l1_err*nonlin(l1,deriv=True) #syn1=syn1+l1.T.dot(l2_delta) #syn0=syn0+l0.T.dot(l1_delta) L1=l1.T L0=l0.T syn1=syn1+0.2*L1*l2_delta syn0=syn0+0.2*L0*l1_deltaprint("Trained values\n")print l2
您的帮助将不胜感激。谢谢。:)
回答:
人工神经网络接受一组超参数,这些超参数决定了在给定训练数据集上训练的神经网络对测试数据集分类准确性的影响。
这些超参数包括:
1. 学习率(通常用符号alpha表示)
2. 迭代次数(一个迭代周期是通过至少一次遍历训练数据集来训练权重和偏置)。
3. 小批量大小(如果您使用带有反向传播的随机梯度下降方法进行训练,那么小批量的大小在决定神经网络的分类准确性方面起着重要作用)。
4. 训练数据集的标注准确性。
我认为您还没有包含人工神经网络的实现。如果您在这个领域相对较新,您可以查看这个存储库中的人工神经网络实现。
该存储库中已经从头开始实现了人工神经网络,用于声音事件检测和分类的任务。