3.3 离散K-L变换

K-L变换（Karhunen-Loeve transform）是数字图像处理中具有广泛应用的一类重要变换，又称为特征向量变换、主分量变换或霍特林变换。K-L变换既有连续形式的变换也有离散形式的变换，它是完全从图像的统计性质出发实现的变换。数字图像中应用的主要是离散K-L变换，它的重要优点是去相关性好，该变换在数据压缩、图像旋转、遥感多光谱图像的特征选择和统计识别等方面具有重要意义。

3.3.1 K-L变换的基本原理

在实际应用中，二维图像可以视为随机场。一幅N×N的图像f（x，y）在某个通信信道中传输了M次，由于受到随机噪声的干扰，接收到的可能是一个受干扰的图像随机变量的样本集合：

{f1（x，y），f2（x，y），…，fM（x，y）}

对第i次获得的图像f（x，y），可以用N2×1维向量Xi表示：

Xi=［fi（0，0），fi（0，1），…，fi（0，N—1），fi（1，0），fi（1，1），…，fi（1，N—1），…，fi（N—1，0），fi（N—1，1），…，fi（N—1，N—1）］

若以Xij表示第i次获得的图像f（x，y）中的第j行的N个分量，则上式为

Xi=［Xi1，Xi2，…，XiN］T

根据概率论和数理统计知识，图像随机场信号的随机变量之间的相关程度可以采用协方差矩阵表示，因此，向量X的协方差矩阵的定义为

式中，Cx是N2×N2对称方阵，对角线上的元素Cnn表示第n个分量的方差，Cnm表示第n个元素与第m个元素之间的协方差；E表示数学期望运算；mx表示向量X的平均值。

向量X的平均值定义为

对于M幅数字图像，向量X的均值mx可以用全部样本的平均值近似计算，即

向量X的协方差矩阵Cx可以采用同样的方法计算，即

式中，mx是N2个元素的向量。

Cx是N2×N2实对称方阵，所以总可以求出协方差矩阵的N2个特征值及其对应的正交特征向量。设特征值λi（i=1，2，…，N2）对应的特征向量为ei（i=1，2，…，N2），并将特征值按递减排序，即λ1＞λ2＞…＞。则定义K-L变换矩阵A如下：

式中，eij表示第i个特征向量的第j个分量。

于是，可得K-L变换形式为

向量Y的形式与X相同。该变换可直接理解为，由中心化图像向量（X—mx）与变换矩阵A相乘即可得到变换后的图像向量Y。

3.3.2 K-L变换的性质

由于K-L变换的变换矩阵A是由协方差矩阵Cx的特征向量组成，因此，K-L变换具有如下性质。

（1）变换后图像向量Y的均值向量为0（0向量），即

（2）向量Y的协方差矩阵Cy可由A和Cx求得，公式为

（3）经过K-L变换后完全消除了元素之间的相关性，即协方差矩阵Cy是对角矩阵，且主对角线上的元素等于Cx的特征值，即

协方差矩阵Cy主对角线以外的元素全部为0，即变换图像向量Y的各个元素是互不相关的，由于λi（i=1，2，…，N2）也是Cx的特征值，所以Cy和Cx具有完全相同的特征值和特征向量。

3.3.3 K-L变换的逆变换

与其他变换类似，K-L变换也有逆变换，即可以通过Y来重建X。由于矩阵A的各行都是正交归一化矢量，所以有

A—1=AT

根据K-L变换形式可得

由于协方差矩阵特征值是由大到小排列的，在许多实际应用中，可以充分利用K-L变换的这个性质进行近似计算。例如，可以只取一部分特征值及其对应的特征向量，若取前n个特征值，则可以表示为

即可以只取前n个分量重建X的近似值

因此，可以得出Xn和X之间的均方误差为

显然，若k=N2，则均方误差为0，即可以精确地重构X。由于特征值λi（i=1，2，…，N2）是单调递减的，因此，可以通过取不同的n值来控制Xn和X之间的均方误差，即完全可以根据误差的要求来控制所取特征值的数量。因此，理论上K-L变换可以将均方误差控制到任意小的程度，或者说可以实现均方误差最小意义下的最优变换。

综上所述，K-L变换具有许多优点，其最重要的优点是去相关性能非常好，它可以完全解除数据之间的相关性，因此，K-L变换可广泛用于图像数据的旋转或压缩处理。但K-L变换也具有自身的明显缺点，这就是二维K-L变换不可分离的变换，不能通过在x与y方向上的两次一维的K-L变换来完成二维K-L变换的运算。同时，K-L变换是一种和图像数据有关的变换，在变换中，必须计算图像数据的N2×N2协方差矩阵的特征值和特征向量，计算量非常庞大，因而K-L变换在实际图像处理中并没有得到所期望的普及程度。