基于GDAL实现的PCA变换（主成分分析）

主成分分析（Principal Component Analysis，PCA）， 将多个变量通过线性变换以选出较少个数重要变量的一种多元统计分析方法。又称主分量分析。在实际课题中，为了全面分析问题，往往提出很多与此有关的变量（或因素），因为每个变量都在不同程度上反映这个课题的某些信息。主成分分析首先是由K.皮尔森对非随机变量引入的，尔后H.霍特林将此方法推广到随机向量的情形。信息的大小通常用离差平方和或方差来衡量。对于遥感图像来说，每个变量就是一个波段。主成分分析是在遥感图像处理中非常常用的一个分析方法，尤其是对于高光谱数据，用于提取有效信息非常有用。

主成分分析主要是把原来的多个指标化为少数的几个综合指标的统计方法。 也就是用尽可能少的指标个数来尽可能多的反应原来较多的指标，而且这些少的指标之间又 是独立的。

如果有p个指标，x1,x2,...,xp，将他们综合成m(<p)个指标，z1,z2,...,zm。 通过主成分变换的几何意义就是，找出p维空间中椭球体的主轴问题，从数学上可以容易得知 他们是x1,x2,...,xp的相关矩阵中m个较大特征值所对应的特征向量。

主成分变换的一般步骤如下：

1：对原始数据归一化（标准化），归一化之后的数据具有均值为0，方差为1(我个人认为对于 遥感数据，所有的波段的量纲都是一样的，所有不进行归一化也是可以的，可以跳过第一步)

归一化方程为:xn(a,j) = (x(a,j) - xjm)/σj其中：xn(a,j)为归一化后的数据，x(a,j)为原始数据，xjm为原始数据均值，σj为原始数据标准差xjm = SUM(x(a,j)) / N σj*σj = SUM((x(a,j) - xjm)*(x(a,j) - xjm)) / N

2：计算相关系数矩阵R

相关系数计算方程为:r(i,j) = SUM((x(a,i) - xim)*(x(a,j) - xjm)) / (σi*σj*N)其中：r(i,j)为相关系数矩阵数据,r(i,j) = cov(i,j)/(σi*σj)

3：计算特征值和特征向量

根据特征方程|R-λI| = 0计算特征值即解:rn*λp + rn-1*λp-1 + ... + r1*λ + r0 =0的特征多项式，求λp，λp-1，...，λ，并使λi按大小排列，即λ>λ1>...>λp>0列出关于特征值λk的特征向量lk=[lk1,lk2,...,lkp]TRlk = λlk变量较多时，使用雅克比法来计算特征值和特征向量

4：计算贡献率λk / SUM(λi)和累计贡献率SUM(λk / SUM(λi))，一般取累计 贡献率达到85%~95的特征值λ1, λ2,...,λm(<p)对应的成分即可

5：计算主成分载荷 P(Zk,xi) = sqrt(λk)*lki (i=1,2,...,p;k=1,2,...,m)

6：根据下面的式子计算主成分得分，得到主成分矩阵

Z1 = l11*xn1 + l12*xn2 + ... + l1p*xnpZ2 = l21*xn1 + l22*xn2 + ... + l2p*xnp...  ...       ...       ...   ...Zm = lm1*xn1 + lm2*xn2 + ... + lmp*xnp

关于矩阵求解特征值和特征向量参考上一篇文章，地址为：http://blog.csdn.net/liminlu0314/article/details/8957155

下面就是GDAL进行PCA处理的主要代码，还是之前说的，我的代码你直接抄过去不一定能编译的过去，如果你自己看过，肯定能自己调试通过。关于主成分的逆变换与正变换类似，只不过正变换的矩阵是通过数据计算出来的，而逆变换的矩阵是使用正变换的矩阵求逆得到的。两者就这么点区别，其他的都是一模一样的。代码是好几年前写的，应该没有什么bug吧，首先是头文件：

/***************************************************************************** Time: 2010-05-14* Project: 遥感算法 * Purpose: PCA变换* Author:  李民录* Copyright (c) 2010, [e-mail]* Describe:提供PCA变换算法*****************************************************************************/#ifndef PCATRANSFORM_H#define PCATRANSFORM_H/*** \file PCATransform.h * @brief 图像PCA变换** 用于图像PCA变换*/#include "MartixAlgo.h"//用于矩阵求解特征值等class GDALDataset;/*** \class CPCATransform PCATransform.h * @brief 主成分变换类Principal Component Analysis* * 用于完成数据的主成分变换Principal Component Analysis（PCA）** 主成分变换算法原理是：\n主要是把原来的多个指标化为少数的几个综合指标的统计方法。* 也就是用尽可能少的指标个数来尽可能多的反应原来较多的指标，而且这些少的指标之间又* 是独立的。\n如果有p个指标，x1,x2,...,xp，将他们综合成m(<p)个指标，z1,z2,...,zm。* 通过主成分变换的几何意义就是，找出p维空间中椭球体的主轴问题，从数学上可以容易得知* 他们是x1,x2,...,xp的相关矩阵中m个较大特征值所对应的特征向量。\n** 主成分变换的一般步骤如下：\n* * 1：对原始数据归一化（标准化），归一化之后的数据具有均值为0，方差为1(我个人认为对于* 遥感数据，所有的波段的量纲都是一样的，所有不进行归一化也是可以的，可以跳过第一步)\n* \verbatim归一化方程为:xn(a,j) = (x(a,j) - xjm)/σj其中：xn(a,j)为归一化后的数据，x(a,j)为原始数据，xjm为原始数据均值，σj为原始数据标准差xjm = SUM(x(a,j)) / N σj*σj = SUM((x(a,j) - xjm)*(x(a,j) - xjm)) / N\endverbatim* * 2：计算相关系数矩阵R*\verbatim相关系数计算方程为:r(i,j) = SUM((x(a,i) - xim)*(x(a,j) - xjm)) / (σi*σj*N)其中：r(i,j)为相关系数矩阵数据,r(i,j) = cov(i,j)/(σi*σj)\endverbatim* * 3：计算特征值和特征向量*\verbatim根据特征方程|R-λI| = 0计算特征值即解:rn*λp + rn-1*λp-1 + ... + r1*λ + r0 =0的特征多项式，求λp，λp-1，...，λ，并使λi按大小排列，即λ>λ1>...>λp>0列出关于特征值λk的特征向量lk=[lk1,lk2,...,lkp]TRlk = λlk变量较多时，使用雅克比法来计算特征值和特征向量\endverbatim* * 4：计算贡献率λk / SUM(λi)和累计贡献率SUM(λk / SUM(λi))，一般取累计* 贡献率达到85%~95%的特征值λ1, λ2,...,λm(<p)对应的成分即可** 5：计算主成分载荷* P(Zk,xi) = sqrt(λk)*lki (i=1,2,...,p;k=1,2,...,m)** 6：根据下面的式子计算主成分得分，得到主成分矩阵*\verbatimZ1 = l11*xn1 + l12*xn2 + ... + l1p*xnpZ2 = l21*xn1 + l22*xn2 + ... + l2p*xnp...  ...       ...       ...   ...Zm = lm1*xn1 + lm2*xn2 + ... + lmp*xnp\endverbatim*/class CPCATransform{public:/*** @brief 构造函数，用于主成分变换* @param pszSrcFile 要变换的文件路径* @param pProcess进度指针*/CPCATransform(const char* pszSrcFile, CProcessBase *pProcess = NULL);/*** @brief 析构函数*/~CPCATransform();/*** @brief PC变换* @param pszPCAFile输出主成分变换后文件的路径* @param iBandCount主成分变换后文件的的波段个数（默认为全部-1）* @param bIsCovariance采用相关系数还是方差-协方差矩阵来计算，默认为协方差矩阵* @param bIsLikeEnvi计算结果是否按照ENVI方式输出，即将所有的数据减去均值，使得每个波段的均值为0* @param pszFormat输出文件格式，默认为GeoTiff格式* @return 返回代码*/int ExecutePCT(const char* pszPCAFile, int iBandCount = -1, bool bIsCovariance = true, bool bIsLikeEnvi = true, const char* pszFormat = "GTiff");/*** @brief PC逆变换* @param pszPCAFile输出主成分变换后文件的路径* @param pmMatrix主成分变换的特征向量矩阵* @param pvMeanVector原始图像的均值向量，可以为NULL* @param pszFormat输出文件格式，默认为GeoTiff格式* @return 返回代码*/int ExecuteInversePCT(const char* pszPCAFile, const Matrix *pmMatrix,const Vector *pvMeanVector = NULL, const char* pszFormat = "GTiff");/*** @brief 获取PCA变换的变换矩阵和向量* @param mEigenVectors特征向量矩阵* @param vMeanValues均值向量*/void GetPCAMatrix(Matrix &mEigenVectors, Vector &vMeanValues);private:/*** @brief 数据预处理，进行图像信息的统计等* @return 返回代码*/int PreProcessData();/*** @brief 计算协方差矩阵和相关系数矩阵R，第二步* @return 返回代码*/int CalcCovarianceMartix();/*** @brief 计算特征值和特征向量，第三步和计算贡献率以及累积贡献率，第四步*/void CalcEigenvalueAndEigenvector();/*** @brief 计算主成分得分，并写入到文件中，第五和第六步* @param pszPCAFile输出主成分变换后文件的路径* @param iBandCount主成分变换后文件的的波段个数（默认为全部-1）* @param pszFormat输出文件格式* @return 返回代码*/int CreatePCAFile(const char* pszPCAFile, int iBandCount, const char* pszFormat);/*** @brief 计算主成分得分，并写入到文件中，第五和第六步* @param pszPCAFile 输出主成分变换后文件的路径* @return 返回代码*/int CalcSubAvg(const char* pszPCAFile);private:CProcessBase *m_pProcess;/*<! 进度指针 */const char* m_pszSrcFile;/*<! 要变换的文件路径 */bool m_bIsCovariance;/*<! PCA变换方式，true为协方差，false为相关系数 */GDALDataset *m_pSrcDS;/*<! 要变换的文件指针 */int m_iBandCount; /*<! 波段个数 */double *m_pBandMean;/*<! 波段均值 */double *m_pBandStad;/*<! 波段标准差 */double *m_pRelativity;/*<! 相关系数矩阵中的元素 */SymmMatrix m_RelMatrix;/*<! 相关系数矩阵 */Vector m_EigenValues;/*<! 相关系数矩阵的特征值 */Matrix m_EigenVectors;/*<! 相关系数矩阵的特征向量 */Matrix m_MEV;/*<! 构建选择后的特征向量矩阵 */};#endif /*PCATRANSFORM_H*/

接下来是PCA变换类的实现，实现的步骤和上面的说明一样，可以对照上面的步骤进行理解。关于函数的代码部分，头文件中每个函数的参数以及类变量都有详细的注释，这里就不再多说，关于代码中矩阵运算和矩阵定义的部分可以参考MTL库中的说明。对下面的代码稍微说明一下就是，ENVI的PCA变换结果后对所有的波段都将均值减去了，所以使用ENVI处理的PCA变换后的图像均值为0，而Erdas没有进行这一步的处理，上面的代码有个参数叫bIsLikeEnvi，如果设置为true就处理的结果和ENVI一致。

/***************************************************************************** Time: 2010-05-14* Project: 遥感算法* Purpose: PCA变换* Author:  李民录* Copyright (c) 2010, [e-mail]* Describe:提供PCA变换算法*****************************************************************************/#include "PCATransform.h"#include "gdal_priv.h"//只需要GDAL的头文件即可CPCATransform::CPCATransform(const char* pszSrcFile, CProcessBase *pProcess){m_pBandMean= NULL;m_pBandStad= NULL;m_pRelativity= NULL;m_pSrcDS= NULL;m_bIsCovariance = true;m_pszSrcFile = pszSrcFile;m_pProcess = pProcess;}CPCATransform::~CPCATransform(){if (m_pSrcDS != NULL)GDALClose( (GDALDatasetH) m_pSrcDS );RELEASE(m_pBandMean);RELEASE(m_pBandStad);RELEASE(m_pRelativity);}int CPCATransform::PreProcessData(){GDALAllRegister();m_pSrcDS = (GDALDataset*) GDALOpen(m_pszSrcFile, GA_ReadOnly);if (m_pSrcDS == NULL){if (m_pProcess != NULL)m_pProcess->SetMessage("输入文件不能打开！");return RE_FILENOTEXIST;}m_iBandCount = m_pSrcDS->GetRasterCount();m_pBandMean = new double [m_iBandCount];m_pBandStad = new double [m_iBandCount];for (int i=1; i<=m_iBandCount; i++)//获取每个波段的均值和标准差{double dMaxValue, dMinValue;m_pSrcDS->GetRasterBand(i)->ComputeStatistics(FALSE, &dMinValue, &dMaxValue, m_pBandMean+(i-1), m_pBandStad+(i-1), NULL, NULL);}return RE_SUCCESS;}int CPCATransform::CalcCovarianceMartix(){if (m_pSrcDS == NULL){if (m_pProcess != NULL)m_pProcess->SetMessage("输入文件不能打开！");return RE_FILENOTEXIST;}int iWidth = m_pSrcDS->GetRasterXSize();int iHeight = m_pSrcDS->GetRasterYSize();int iImageSize = iWidth * iHeight;int iElementNum = m_iBandCount*(m_iBandCount+1)/2;//相关系数矩阵中的个数，只保存对角阵，因为是实对称阵int iElementIndex = 0;//用于遍历相关系数矩阵中元素的索引m_pRelativity = new double [iElementNum];//分配相关系数矩阵的大小SymmMatrix covMatrix(m_pRelativity, m_iBandCount, m_iBandCount);//相关系数矩阵for (int i1=1; i1<=m_iBandCount; i1++){for (int i2=1; i2<=m_iBandCount; i2++){if (i2<i1)continue;if (i1 == i2)//若是同一个波段，不用计算了{if (!m_bIsCovariance)m_pRelativity[iElementIndex] = 1.0;//相关系数矩阵elsem_pRelativity[iElementIndex] = m_pBandStad[i1-1]*m_pBandStad[i1-1];//方差-协方差矩阵iElementIndex++;continue;}GDALRasterBand *ptrBandI1 = m_pSrcDS->GetRasterBand(i1);GDALRasterBand *ptrBandI2 = m_pSrcDS->GetRasterBand(i2);DT_64F *pBuff1 = new DT_64F[iWidth];DT_64F *pBuff2 = new DT_64F[iWidth];double dTemp = 0.0;for(int j=0; j<iHeight; j++)//行{ptrBandI1->RasterIO(GF_Read, 0, j, iWidth, 1, pBuff1, iWidth, 1, GDT_Float64, 0, 0);//读取第一波段数据块ptrBandI2->RasterIO(GF_Read, 0, j, iWidth, 1, pBuff2, iWidth, 1, GDT_Float64, 0, 0);//读取第二波段数据块for (int i=0; i<iWidth; i++)dTemp += ((pBuff1[i] - m_pBandMean[i1-1]) * (pBuff2[i] - m_pBandMean[i2-1]));}RELEASE(pBuff1);RELEASE(pBuff2);m_pRelativity[iElementIndex] = dTemp / iImageSize;//方差-协方差矩阵if (!m_bIsCovariance)m_pRelativity[iElementIndex] = m_pRelativity[iElementIndex] / (m_pBandStad[i1-1]*m_pBandStad[i2-1]); //相关系数矩阵iElementIndex++;}}m_RelMatrix = covMatrix;CalcEigenvalueAndEigenvector();//计算特征值和特征向量return RE_SUCCESS;}void CPCATransform::CalcEigenvalueAndEigenvector(){/************************************************************************//*               计算相关系数矩阵的特征值和特征向量                     *//************************************************************************/Matrix matrix(m_iBandCount, m_iBandCount);for(int i=0; i<m_iBandCount; i++){for(int j=0; j<m_iBandCount; j++)matrix(i, j) = m_RelMatrix(i, j);}Vector EigenValues(m_iBandCount);Matrix EigenVectors(m_iBandCount, m_iBandCount);Vector Contribute(m_iBandCount);Vector AccContribute(m_iBandCount);GetMatrixEigen(matrix, EigenValues, EigenVectors, &Contribute, &AccContribute, 0.0001);m_EigenValues = EigenValues;m_EigenVectors = EigenVectors;}int CPCATransform::CreatePCAFile(const char* pszPCAFile, int iBandCount, const char* pszFormat){if (m_pSrcDS == NULL){if (m_pProcess != NULL)m_pProcess->SetMessage("输入文件不能打开！");return RE_FILENOTEXIST;}int iWidth = m_pSrcDS->GetRasterXSize();int iHeight = m_pSrcDS->GetRasterYSize();int iNewBandCount = m_iBandCount;if (iBandCount>0)iNewBandCount = iBandCount;Matrix MEV(m_iBandCount, iNewBandCount);//构建选择后的特征向量矩阵for (int it=0; it<iNewBandCount; it++){for (int jt=0; jt<m_iBandCount; jt++)MEV(jt, it) = m_EigenVectors(jt, it);}m_MEV = MEV;//构建选择后的特征向量矩阵return LinearCombination(m_pszSrcFile, pszPCAFile, &m_MEV, NULL, pszFormat, m_pProcess);}int CPCATransform::CalcSubAvg(const char* pszPCAFile){GDALAllRegister();GDALDataset *pDS = (GDALDataset*) GDALOpen(pszPCAFile, GA_Update);if (pDS == NULL){if(m_pProcess != NULL)m_pProcess->SetMessage("文件不能打开！");return RE_FILENOTSUPPORT;}int iWidth = pDS->GetRasterXSize();int iHeight = pDS->GetRasterYSize();int iBandCount = pDS->GetRasterCount();if (m_pProcess != NULL)m_pProcess->SetStepCount(iHeight*iBandCount);DT_32F *pBuff = new DT_32F[iWidth];for (int it=1; it<=iBandCount; it++){GDALRasterBand *pBand = pDS->GetRasterBand(it);double dfMin = 0.0, dfMax = 0.0, dfMean = 0.0, dfStdDev = 0.0;pBand->ComputeStatistics (FALSE, &dfMin, &dfMax, &dfMean, &dfStdDev, NULL, NULL);for(int i=0; i<iHeight; i++){pBand->RasterIO(GF_Read, 0, i, iWidth, 1, pBuff, iWidth, 1, GDT_Float32, 0, 0);for (int j=0; j<iWidth; j++)pBuff[j] = pBuff[j] - (float)dfMean;pBand->RasterIO(GF_Write, 0, i, iWidth, 1, pBuff, iWidth, 1, GDT_Float32, 0, 0);if (m_pProcess != NULL)m_pProcess->StepIt();}//end}GDALClose((GDALDatasetH) pDS);RELEASE(pBuff);string str = string(pszPCAFile) + ".aux.xml";remove(str.c_str());return RE_SUCCESS;}int CPCATransform::ExecutePCT(const char* pszPCAFile, int iBandCount, bool bIsCovariance,   bool bIsLikeEnvi, const char* pszFormat){m_bIsCovariance = bIsCovariance;if (m_pProcess != NULL)m_pProcess->SetMessage("开始执行主成分变换...");int iRev = PreProcessData();if(iRev != RE_SUCCESS)return iRev;iRev = CalcCovarianceMartix();if(iRev != RE_SUCCESS)return iRev;iRev = CreatePCAFile(pszPCAFile, iBandCount, pszFormat);if(iRev != RE_SUCCESS)return iRev;if(bIsLikeEnvi){iRev = CalcSubAvg(pszPCAFile);if(iRev != RE_SUCCESS)return iRev;}if (m_pProcess != NULL)m_pProcess->SetMessage("计算完成！");return RE_SUCCESS;}int CPCATransform::ExecuteInversePCT(const char* pszPCAFile, const Matrix *pmMatrix,  const Vector *pvMeanVector, const char* pszFormat){if (m_pProcess != NULL)m_pProcess->SetMessage("开始执行主成分逆变换...");if (pmMatrix == NULL || pszPCAFile == NULL){if (m_pProcess != NULL)m_pProcess->SetMessage("指定文件名为空或者矩阵为空...");return RE_PARAMERROR;}Matrix invMatrix(pmMatrix->nrows(), pmMatrix->ncols());if(!InverseMatrix(*pmMatrix, invMatrix)){if (m_pProcess != NULL)m_pProcess->SetMessage("指定的矩阵没有逆矩阵...");}int iRev = LinearCombination(m_pszSrcFile, pszPCAFile, &invMatrix, pvMeanVector, pszFormat, m_pProcess);if(iRev != RE_SUCCESS)return iRev;if (m_pProcess != NULL)m_pProcess->SetMessage("计算完成！");return RE_SUCCESS;}void CPCATransform::GetPCAMatrix(Matrix &mEigenVectors, Vector &vMeanValues){mEigenVectors = m_EigenVectors;vMeanValues.resize(m_iBandCount, 0);for (int i=0; i<m_iBandCount; i++)vMeanValues[i] = m_pBandMean[i];}

最后列举几个PCA的参考文献，关于主成分分析，这个本来就是一个数学上的东西，所以对于图像处理来说，将每个波段当作一组数据即可，然后找出这些数据的主分量、次分量等。实质上还是数据。

参考资料：

[1]http://baike.baidu.com/view/45376.htm

[2]http://zh.wikipedia.org/wiki/%E4%B8%BB%E6%88%90%E5%88%86%E5%88%86%E6%9E%90

[3]http://en.wikipedia.org/wiki/Principal_component_analysis