如何在Python中计算最佳拟合线，并在matplotlib的散点图上绘制它？

我使用普通最小二乘回归计算线性最佳拟合线，如下所示：

from sklearn import linear_model
clf = linear_model.LinearRegression()
x = [[t.x1,t.x2,t.x3,t.x4,t.x5] for t in self.trainingTexts]
y = [t.human_rating for t in self.trainingTexts]
clf.fit(x,y)
regress_coefs = clf.coef_
regress_intercept = clf.intercept_      

这是多变量的（每个案例有多个x值）。因此，X是一个列表的列表，而y是一个单一的列表。例如：

x = [[1,2,3,4,5], [2,2,4,4,5], [2,2,4,4,1]]
y = [1,2,3,4,5]

但是，如何使用更高阶的多项式函数来做这件事呢？例如，不仅仅是线性（x的M次幂=1），还有二项式（x的M次幂=2），二次方程（x的M次幂=4）等等。例如，如何从以下内容中获得最佳拟合曲线？

摘自Christopher Bishops的《模式识别与机器学习》，第7页：

回答：

对这个问题的接受答案提供了一个小的多项式拟合库，它可以使用numpy准确地完成你需要的任务，你可以将结果插入到我下面概述的绘图中。

你只需将你的x和y点数组以及你需要的拟合度（阶数）传递给multipolyfit。这将返回系数，你可以使用numpy的polyval进行绘图。

注意：下面的代码已经修改为进行多变量拟合，但绘图图像是早期非多变量答案的一部分。

import numpy
import matplotlib.pyplot as plt
import multipolyfit as mpf
data = [[1,1],[4,3],[8,3],[11,4],[10,7],[15,11],[16,12]]
x, y = zip(*data)
plt.plot(x, y, 'kx')
stacked_x = numpy.array([x,x+1,x-1])
coeffs = mpf(stacked_x, y, deg)
x2 = numpy.arange(min(x)-1, max(x)+1, .01) #使用更多点以获得更平滑的绘图
y2 = numpy.polyval(coeffs, x2) #为每个x2值评估多项式
plt.plot(x2, y2, label="deg=3")

注意：这是早期答案的一部分，如果你没有多变量数据，它仍然相关。不是coeffs = mpf(...，而是使用coeffs = numpy.polyfit(x,y,3)

对于非多变量数据集，使用numpy的polyfit可能是最简单的方法：

numpy.polyfit(x, y, deg, rcond=None, full=False, w=None, cov=False)

最小二乘多项式拟合。

将度数为deg的多项式p(x) = p[0] * x**deg + ... + p[deg]拟合到点(x, y)。返回一个系数向量p，使得平方误差最小化。