我已经成功实现了一个使用RBF核的核感知器分类器。我理解核技巧将特征映射到更高维度，以便构建一个线性超平面来分隔点。例如，如果你有特征(x1,x2)并将其映射到三维特征空间，你可能会得到：K(x1,x2) = (x1^2, sqrt(x1)*x2, x2^2)。

如果你将它代入感知器决策函数w'x+b = 0，你最终会得到：w1'x1^2 + w2'sqrt(x1)*x2 + w3'x2^2，这给你一个圆形的决策边界。

虽然核技巧本身非常直观，但我无法理解其中的线性代数方面。能有人帮我理解我们如何在不明确指定这些附加特征的情况下，仅使用内积就能映射所有这些特征吗？

谢谢！

回答：

简单来说。

给我一些x和y的值，计算(x+y)^10的数值结果。

你更愿意做的是“作弊”，先求和x+y然后将这个值提升到10次方，还是展开写出精确的结果

x^10+10 x^9 y+45 x^8 y^2+120 x^7 y^3+210 x^6 y^4+252 x^5 y^5+210 x^4 y^6+120 x^3 y^7+45 x^2 y^8+10 x y^9+y^10

然后计算每个项并将它们加在一起？显然，我们可以在不明确形成它们的情况下计算度为10的多项式之间的点积。

有效的核是我们可以“作弊”并在不形成它们的明确特征值的情况下计算两个点之间的数值结果的点积。虽然有很多这样的可能核，但在论文/实践中只有少数几个被广泛使用。