使用caret查找最近邻

我正在使用R语言的caret包来拟合一个k-最近邻模型。

library(caret)set.seed(0)y = rnorm(20, 100, 15)predictors = matrix(rnorm(80, 10, 5), ncol=4)data = data.frame(cbind(y, predictors))colnames(data)=c('Price', 'Distance', 'Cost', 'Tax', 'Transport')

我将一个观测值留作测试数据,并使用训练数据来拟合模型。

id = sample(nrow(data)-1)train = data[id, ]test = data[-id,]knn.model = train(Price~., method='knn', train)predict(knn.model, test)

当我显示knn.model时,它告诉我使用的是k=9。我想知道这9个观测值实际上是测试观测值的“最近邻”。除了手动计算距离之外,有没有更简单的方法来显示最近邻?

谢谢!


回答:

当你使用knn时,你是根据独立变量创建基于邻近点的聚类。通常,这是通过train(Price~., method='knn', train)完成的,这样模型会根据某些标准选择最佳预测(同时也考虑了因变量)。鉴于我没有检查R对象是否存储了每个训练值的预测价格,我只是使用训练的模型来预测给定模型的预期价格(其中预期价格位于空间中)。

最终,因变量只是所有其他变量在共同空间中的一种表示,其中假设与价格相关的点由于基于邻近性进行聚类而相似。作为步骤的总结,你需要计算以下内容:

  1. 计算每个训练数据点的距离。这是通过对它们进行预测来完成的。
  2. 计算训练数据与你感兴趣的观测值之间的距离(绝对值,因为你不关心符号,只关心绝对距离)。
  3. 选择N个最小距离的索引(例如N=9)。你可以得到与这些较小距离相关的观测值。

    TestPred<-predict(knn.model, newdata = test)TrainPred<-predict(knn.model, train)Nearest9neighbors<-order(abs(TestPred-TrainPred))[1:9]train[Nearest9neighbors,]     Price    Distance      Cost       Tax Transport15  95.51177 13.633754  9.725613 13.320678 12.9812957   86.07149 15.428847  2.181090  2.874508 14.98493419 106.53525 16.191521 -1.119501  5.439658 11.1450982   95.10650 11.886978 12.803730  9.944773 16.2704164  119.08644 14.020948  5.839784  9.420873  8.9024229   99.91349  3.577003 14.160236 11.242063 16.28009418  86.62118  7.852434  9.136882  9.411232 17.27994211 111.45390  8.821467 11.330687 10.095782 16.49656217 103.78335 14.960802 13.091216 10.718857  8.589131

Related Posts

神经网络反向传播代码不工作

我需要编写一个简单的由1个输出节点、1个包含3个节点的…

值错误:y 包含先前未见过的标签:

我使用了 决策树分类器,我想将我的 输入 作为 字符串…

使用不平衡数据集进行特征选择时遇到的问题

我正在使用不平衡数据集(54:38:7%)进行特征选择…

广义随机森林/因果森林在Python上的应用

我在寻找Python上的广义随机森林/因果森林算法,但…

如何用PyTorch仅用标量损失来训练神经网络?

假设我们有一个神经网络,我们希望它能根据输入预测三个值…

什么是RNN中间隐藏状态的良好用途?

我已经以三种不同的方式使用了RNN/LSTM: 多对多…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注