从FlinkML多元线性回归中提取权重

我在运行Flink(0.10-SNAPSHOT)的多元线性回归示例。我无法弄清楚如何提取权重(例如斜率和截距,beta0-beta1,或者你想怎么称呼它们都可以)。我对Scala不是很熟练,这可能是我的问题的一半原因。

感谢任何人提供的帮助。

object Job { def main(args: Array[String]) {    // 设置执行环境    val env = ExecutionEnvironment.getExecutionEnvironment    val survival = env.readCsvFile[(String, String, String, String)]("/home/danger/IdeaProjects/quickstart/docs/haberman.data")    val survivalLV = survival      .map{tuple =>      val list = tuple.productIterator.toList      val numList = list.map(_.asInstanceOf[String].toDouble)      LabeledVector(numList(3), DenseVector(numList.take(3).toArray))    }    val mlr = MultipleLinearRegression()      .setStepsize(1.0)      .setIterations(100)      .setConvergenceThreshold(0.001)    mlr.fit(survivalLV)     println(mlr.toString())     // 这没有任何实际作用...    println(mlr.weightsOption)  // 这也没有作用。  }}

回答:

问题在于你只是构建了Flink作业(DAG),它会计算权重,但尚未执行。触发执行的最简单方法是使用collect方法,它会将DataSet的结果检索回你的客户端。

mlr.fit(survivalLV)val weights = mlr.weightsOption match {  case Some(weights) => weights.collect()  case None => throw new Exception("无法计算权重。")}println(weights)

Related Posts

L1-L2正则化的不同系数

我想对网络的权重同时应用L1和L2正则化。然而,我找不…

使用scikit-learn的无监督方法将列表分类成不同组别,有没有办法?

我有一系列实例,每个实例都有一份列表,代表它所遵循的不…

f1_score metric in lightgbm

我想使用自定义指标f1_score来训练一个lgb模型…

通过相关系数矩阵进行特征选择

我在测试不同的算法时,如逻辑回归、高斯朴素贝叶斯、随机…

可以将机器学习库用于流式输入和输出吗?

已关闭。此问题需要更加聚焦。目前不接受回答。 想要改进…

在TensorFlow中,queue.dequeue_up_to()方法的用途是什么?

我对这个方法感到非常困惑,特别是当我发现这个令人费解的…

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注