下面这段话摘自Wiki百科
奇异值分解(singular value decomposition)是线性代数中一种重要的矩阵分解,在信号处理、统计学等领域有重要应用。奇异值分解在某些方面与对称矩阵或厄米矩阵基于特征向量的对角化类似。然而这两种矩阵分解尽管有其相关性,但还是有明显的不同。对称阵特征向量分解的基础是谱分析,而奇异值分解则是谱分析理论在任意矩阵上的推广。
奇异值分解,简称为SVD。其理论为:
假设假设M是一个$m\times n$阶矩阵,那么存在一个分解:
$$ M=U\Sigma V^H $$
其中$U$是$m\times m$阶酉矩阵,$\Sigma$是$m\times n$阶非负实数对角矩阵,而$V^H$是$V$的共轭转置,是$n\times n$阶酉矩阵。这种分解叫做$M$的奇异值分解。$\Sigma$对角线上的元素$\Sigma_{i,i}$就是$M$的奇异值。常见方法是将奇异值从大到小排列,那么$\Sigma$就能唯一确定了。
SVD的计算方法如下:
$B=WW^H,\quad C=W^HW$,之后求$B$与$C$的特征值并单位化。假设$B$的特征值为$u_1,u_2,...,u_m$,$C$的特征值为$v_1,v_2,...,v_n$,那么,最终的矩阵为$[u_1,u_2,...,u_m]\Sigma [v_1,v_2,...,v_n]$。一个具体的例子如下图所示: