在Kevin P. Murphy的《Machine Learning – A Probabilistic Perspective》一书中,第一个任务是这样的:
练习1.1 在打乱的MNIST数据上使用KNN分类器
运行mnist1NNdemo并验证在前1000个测试案例上,1-NN分类器对MNIST的错误分类率为3.8%。(如果你在所有10,000个测试案例上运行,错误率为3.09%。)修改代码,以便你首先随机打乱特征(训练和测试设计矩阵的列),就像在shuffledDigitsDemo中那样,然后应用分类器。验证错误率没有变化。
我简单的理解是,这个练习是在加载文件后寻找1-NN(在R中使用kNN()函数)。
文件包括:
train-images-idx3-ubyte.gz:训练集图像(9912422字节)
train-labels-idx1-ubyte.gz:训练集标签(28881字节)
t10k-images-idx3-ubyte.gz:测试集图像(1648877字节)
t10k-labels-idx1-ubyte.gz:测试集标签(4542字节)
这些文件来自The MNIST DATABASE
我找到一个流行的模板来加载这些文件:
# for the kNN() function library(VIM)load_mnist <- function() { load_image_file <- function(filename) { ret = list() f = file(filename,'rb') readBin(f,'integer',n=1,size=4,endian='big') ret$n = readBin(f,'integer',n=1,size=4,endian='big') nrow = readBin(f,'integer',n=1,size=4,endian='big') ncol = readBin(f,'integer',n=1,size=4,endian='big') x = readBin(f,'integer',n=ret$n*nrow*ncol,size=1,signed=F) ret$x = matrix(x, ncol=nrow*ncol, byrow=T) close(f) ret } load_label_file <- function(filename) { f = file(filename,'rb') readBin(f,'integer',n=1,size=4,endian='big') n = readBin(f,'integer',n=1,size=4,endian='big') y = readBin(f,'integer',n=n,size=1,signed=F) close(f) y } train <<- load_image_file("train-images.idx3-ubyte") test <<- load_image_file("t10k-images.idx3-ubyte") train$y <<- load_label_file("train-labels.idx1-ubyte") test$y <<- load_label_file("t10k-labels.idx1-ubyte") }show_digit <- function(arr784, col=gray(12:1/12)) { image(matrix(arr784, nrow=28)[,28:1], col=col)}
根据评论,在命令行中这应该能工作:
# Error "Error in matrix(arr784, nrow = 28) : object 'train' not found" show_digit(train$x[5,])
问题是如何使用show_digit函数?
编辑 删除额外问题
回答:
我对这个问题找到了解决方法:
首先在R Studio或ESS中运行整个文件,然后在控制台中调用load_mnist()
。之后再次在控制台中执行show_digit(train$x[3,])
,它就会工作。
在整个数据集上寻找KNN分类器可以这样做:a <- knn(train, test, train$y)
,但这将是一个非常慢的过程。
可以这样预测结果:table(test$y, a)
,其中test$y是预测值,a是实际结果。