矩阵类型
正规矩阵
正规矩阵(Normal matrix)是与自己的共轭转置满足交换律的复系数方阵，也就是满足下面这个式子：
$$ A^H A =AA^H $$
厄米特矩阵
厄米特矩阵(Hermitian matrix),也称自伴随矩阵，是共轭对称的方阵，也就是说一个厄米特矩阵$A_{ij}=\overline{A_{ji}}$，也就是说，$A=A^H$
厄米特矩阵有以下特点：
- $A$与$B$是厄米特矩阵，那么只有在$A$与$B$满足交换律的情况下($AB=BA$)，它们的积才是厄米特矩阵
- 可逆厄米特矩阵$A$的逆矩阵$A^{-1}$也是厄米特矩阵
- A是厄米特矩阵，那么对于正整数$n$，$A^n$也是厄米特矩阵
- 方阵$C$与其共轭转置$C^H$的和或差$C\pm C^H$都是厄米特矩阵
- 任意方阵$C$都可以用一个厄米特矩阵$A$和一个斜厄米特矩阵$B$表示：
$$ C=A+B\quad with \quad A=\frac{1}{2}(C+C^H) \quad and \quad B=\frac{1}{2}(C-C^H) $$
- 厄米特矩阵是正规矩阵，也就说厄米特矩阵可以被酉对角化，且得到的对角阵的元素都是实数。这意味着埃尔米特矩阵的特征值都是实的，而且不同的特征值所对应的特征向量相互正交，因此可以在这些特征向量中找出一组$C^n$的正交基。
- 如果埃尔米特矩阵的特征值都是正数，那么这个矩阵是正定矩阵，若它们是非负的，则这个矩阵是半正定矩阵
酉矩阵
若一$n$行n列的复数矩阵$U$满足：
$$ U^H U=U U^H=I_n $$
其中$U^H$是$U$的共轭转置，$I_n$是$n$阶矩阵，$U$被称为酉矩阵(Unitary Matrix)也称作 幺正矩阵。Unitary是指归一或者单位。也就是说$U$是酉矩阵，当且仅当其共轭转置$U^H$是其逆矩阵。
如果酉矩阵的元素都是实数，就是正交矩阵。
正交矩阵和酉矩阵都有一个特点：
实向量与正交矩阵相乘，正交矩阵$G$不会改变两个实向量的内积：
$$ \left<Gx,Gy \right>=\left<x,y \right> $$
复向量与酉矩阵相乘，酉矩阵$U$不会改变两个复向量的内积：
$\left<Ux,Uy \right>=\left<x,y \right>$
如果酉矩阵$U$是$n$阶方阵，那么下列条件等价：
- $U$是酉矩阵
- $U^\ast$是酉矩阵
- $U$的列向量构成内积空间$C^n$上的一组标准正交基
- $U$的行向量构成内积空间$C^n$上的一组标准正交基
酉矩阵的特征值都是模为1的复数，即分布在复平面的单位圆上，因此酉矩阵行列式的值为$\pm 1$。
酉矩阵正规矩阵，可以被分解为：
$$ U=V\Sigma V^H $$
其中$V$是酉矩阵，$\Sigma$是主对角线上元素绝对值为1的对角阵。
范数 norm
向量范数
假设向量$x$长度为$N$矩阵，那么其范数为：
$\|x\|_1=\sum\limits_{i=1}^N|x_i|$ ，1-范数，也就是向量元素绝对值之和
$\|x\|_2= \left(\sum\limits_{i=1}^N|x_i|^2 \right)^{1/2}$，2-范数，也就是所有元素的绝对值的平方和再开根号
$\|x\|_\infty =\max\limits_i|x_i|$，无穷范数，也就是所有元素中的最大值
$\|x\|_{-\infty} =\max\limits_i|x_i|$，负无穷范数，也就是所有元素中的最小值
$\|x\|_2= \left(\sum\limits_{i=1}^N|x_i|^p \right)^{1/p}$，p-范数，也就是所有元素的绝对值的平方和再开根号
矩阵范数
假设矩阵$A$为$m\times n$矩阵，那么其范数为：
$\|A\|_1=\max\sum\limits_{i=1}^m|a_{i,j}|$ ，1-范数，也就是列绝对值和的最大值
$\|A\|_\infty =\max\sum\limits_{j=1}^n|a_{i,j}|$，无穷范数，也就是行绝对值和的最大值
$\|A\|_2=\sqrt{\lambda_\max (A^HA)}$，2-范数，也就是$A^HA$的最大特征值开根号
$\|A\|_F=\left( \sum\limits_{i=1}^m \sum\limits_{j=1}^n|A_{i,j}|^2 \right)^{1/2}$，Frobenius范数，也就是所有元素的绝对值的平方和再开根号