我对这个矩阵有点困惑:
假设:y=f+e,其中y表示最终观测值,f表示无噪声数据,而e表示来自N(0,sig^2)的高斯噪声。
我们知道训练数据:{(xi,fi)|i=1,…n}。那么y的协方差(Ky)等于f的协方差(K(x,x))加上对角线噪声sig^2*I,其中I是单位矩阵(Ky=K(x,x)+sig^2*I)。
请问有人能告诉我如何推导这个吗?
回答:
你把f和x互换使用,所以,f=x吗?你似乎在谈论一个随机变量与自身的协方差,这实际上就是“方差”。这里没有协方差矩阵——嗯,它是一个1×1的矩阵,值为“1”。
所以你在问为什么K(y,y) = K(x,x) + sig^2?这是因为方差是可以相加的。Var(y) = Var(x+e) = Var(x) + Var(e),而Var(e) = sig^2是已知的。根据定义,K(y,y) = Var(y) 且 K(x,x) = Var(x),这样你就完成了推导。