gbm::interact.gbm vs. dismo::gbm.interactions

背景

gbm包的参考手册指出,interact.gbm函数计算Friedman的H统计量,用于评估变量交互的强度。H统计量的值在[0-1]范围内。

dismo包的参考手册并未提及gbm.interactions函数检测和建模交互的任何文献。相反,它提供了一系列用于检测和建模交互的一般程序。dismo的“用于生态建模的提升回归树”小册子指出,dismo包扩展了gbm包中的功能。

问题

dismo::gbm.interactions实际上是如何检测和建模交互的?

原因

我提出这个问题是因为dismo包中的gbm.interactions产生的结果大于1,而gbm包的参考手册说这是不可能的。

我检查了每个包的tar.gz文件,看看源代码是否相似。它们之间的差异足够大,我无法确定这两个包是否使用相同的方法来检测和建模交互。


回答:

总结来说,两种方法的区别归结为如何估计两个预测变量的“部分依赖函数”。

dismo包基于Elith等人,2008年最初提供的代码,你可以在补充材料中找到原始来源。论文简要描述了该程序。基本过程是在两个预测变量的网格上获得模型预测,将所有其他预测变量设置为其均值。然后将模型预测回归到网格上。该模型的均方误差然后乘以1000。这个统计量表明模型预测偏离了预测变量的线性组合,表明可能存在交互作用。

dismo包中,我们也可以获得gbm.interactions的相关源代码。交互测试归结为以下命令(直接从源代码复制):

interaction.test.model <- lm(prediction ~ as.factor(pred.frame[,1]) + as.factor(pred.frame[,2]))interaction.flag <- round(mean(resid(interaction.test.model)^2) * 1000,2)

pred.frame包含所讨论的两个预测变量的网格,prediction是来自原始gbm拟合模型的预测,其中除了考虑的两个预测变量外,其他所有预测变量都设置为其均值。

这与Friedman的H统计量不同,(Friedman & Popescue,2005),它是通过公式(44)为任何一对预测变量估计的。这本质上是任何两个预测变量的可加性偏离,平均其他变量的值,而不是将其他变量设置为其均值。它表示为两个变量的部分依赖函数(或模型隐含预测)的总方差的百分比,因此总是介于0-1之间。

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注