使用caret查找最近邻

我正在使用R语言的caret包来拟合一个k-最近邻模型。

library(caret)set.seed(0)y = rnorm(20, 100, 15)predictors = matrix(rnorm(80, 10, 5), ncol=4)data = data.frame(cbind(y, predictors))colnames(data)=c('Price', 'Distance', 'Cost', 'Tax', 'Transport')

我将一个观测值留作测试数据,并使用训练数据来拟合模型。

id = sample(nrow(data)-1)train = data[id, ]test = data[-id,]knn.model = train(Price~., method='knn', train)predict(knn.model, test)

当我显示knn.model时,它告诉我使用的是k=9。我想知道这9个观测值实际上是测试观测值的“最近邻”。除了手动计算距离之外,有没有更简单的方法来显示最近邻?

谢谢!


回答:

当你使用knn时,你是根据独立变量创建基于邻近点的聚类。通常,这是通过train(Price~., method='knn', train)完成的,这样模型会根据某些标准选择最佳预测(同时也考虑了因变量)。鉴于我没有检查R对象是否存储了每个训练值的预测价格,我只是使用训练的模型来预测给定模型的预期价格(其中预期价格位于空间中)。

最终,因变量只是所有其他变量在共同空间中的一种表示,其中假设与价格相关的点由于基于邻近性进行聚类而相似。作为步骤的总结,你需要计算以下内容:

  1. 计算每个训练数据点的距离。这是通过对它们进行预测来完成的。
  2. 计算训练数据与你感兴趣的观测值之间的距离(绝对值,因为你不关心符号,只关心绝对距离)。
  3. 选择N个最小距离的索引(例如N=9)。你可以得到与这些较小距离相关的观测值。

    TestPred<-predict(knn.model, newdata = test)TrainPred<-predict(knn.model, train)Nearest9neighbors<-order(abs(TestPred-TrainPred))[1:9]train[Nearest9neighbors,]     Price    Distance      Cost       Tax Transport15  95.51177 13.633754  9.725613 13.320678 12.9812957   86.07149 15.428847  2.181090  2.874508 14.98493419 106.53525 16.191521 -1.119501  5.439658 11.1450982   95.10650 11.886978 12.803730  9.944773 16.2704164  119.08644 14.020948  5.839784  9.420873  8.9024229   99.91349  3.577003 14.160236 11.242063 16.28009418  86.62118  7.852434  9.136882  9.411232 17.27994211 111.45390  8.821467 11.330687 10.095782 16.49656217 103.78335 14.960802 13.091216 10.718857  8.589131

Related Posts

如何对SVC进行超参数调优?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

如何在初始训练后向模型添加训练数据?

我想在我的scikit-learn模型已经训练完成后再…

使用Google Cloud Function并行运行带有不同用户参数的相同训练作业

我正在寻找一种方法来并行运行带有不同用户参数的相同训练…

加载Keras模型,TypeError: ‘module’ object is not callable

我已经在StackOverflow上搜索并阅读了文档,…

在计算KNN填补方法中特定列中NaN值的”距离平均值”时

当我从头开始实现KNN填补方法来处理缺失数据时,我遇到…

使用巨大的S3 CSV文件或直接从预处理的关系型或NoSQL数据库获取数据的机器学习训练/测试工作

已关闭。此问题需要更多细节或更清晰的说明。目前不接受回…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注