我正在使用R语言的caret
包来拟合一个k-最近邻模型。
library(caret)set.seed(0)y = rnorm(20, 100, 15)predictors = matrix(rnorm(80, 10, 5), ncol=4)data = data.frame(cbind(y, predictors))colnames(data)=c('Price', 'Distance', 'Cost', 'Tax', 'Transport')
我将一个观测值留作测试数据,并使用训练数据来拟合模型。
id = sample(nrow(data)-1)train = data[id, ]test = data[-id,]knn.model = train(Price~., method='knn', train)predict(knn.model, test)
当我显示knn.model
时,它告诉我使用的是k=9
。我想知道这9个观测值实际上是测试观测值的“最近邻”。除了手动计算距离之外,有没有更简单的方法来显示最近邻?
谢谢!
回答:
当你使用knn时,你是根据独立变量创建基于邻近点的聚类。通常,这是通过train(Price~., method='knn', train)
完成的,这样模型会根据某些标准选择最佳预测(同时也考虑了因变量)。鉴于我没有检查R对象是否存储了每个训练值的预测价格,我只是使用训练的模型来预测给定模型的预期价格(其中预期价格位于空间中)。
最终,因变量只是所有其他变量在共同空间中的一种表示,其中假设与价格相关的点由于基于邻近性进行聚类而相似。作为步骤的总结,你需要计算以下内容:
- 计算每个训练数据点的距离。这是通过对它们进行预测来完成的。
- 计算训练数据与你感兴趣的观测值之间的距离(绝对值,因为你不关心符号,只关心绝对距离)。
-
选择N个最小距离的索引(例如N=9)。你可以得到与这些较小距离相关的观测值。
TestPred<-predict(knn.model, newdata = test)TrainPred<-predict(knn.model, train)Nearest9neighbors<-order(abs(TestPred-TrainPred))[1:9]train[Nearest9neighbors,] Price Distance Cost Tax Transport15 95.51177 13.633754 9.725613 13.320678 12.9812957 86.07149 15.428847 2.181090 2.874508 14.98493419 106.53525 16.191521 -1.119501 5.439658 11.1450982 95.10650 11.886978 12.803730 9.944773 16.2704164 119.08644 14.020948 5.839784 9.420873 8.9024229 99.91349 3.577003 14.160236 11.242063 16.28009418 86.62118 7.852434 9.136882 9.411232 17.27994211 111.45390 8.821467 11.330687 10.095782 16.49656217 103.78335 14.960802 13.091216 10.718857 8.589131