矩阵范数抽象定义

Entrywise norms

<aside>

范数直接作用于矩阵元素

$$ A=(\alpha_1,\alpha_2,\cdots,\alpha_n)\in \mathbb P^{m\times n}\\\operatorname{vec} (A)=(\alpha_1^T,\alpha_2^T\cdots)^T\in\mathbb P^{mn\times 1},\\\|A\|_m=\|\operatorname {vec}A\| $$
1. 使用$L^p$范数计算Entrywise norm
  1. m1范数$\|A\|{m_1}=\|\operatorname{vec}A\|1=\sum{j=1}^n\sum{i=1}^m |a_{ij}|.$ m1范数
  2. m2范数| F-范数 | Frobenius 范数| Hilbert-Schmidt 范数 $\|A\|_{F}=\|\operatorname{vec}A\|_2$
  3. m$\infty$范数：不相容矩阵范数⇒相容化m$\infty$范数相容化
  4. 矩阵的p-范数不如此定义
2. 可以推出一般矩阵范数应当有的性质：有限维范数都等价有限维线性空间的任意两个向量范数均等价
3. 矩阵乘法是非线形运算，需要单独考虑相容性 自相容范数，简称相容范数 </aside>
- m1范数
  - （自）相容范数
    
    证明：放缩
- F-范数
  
  (矩阵m2范数)Frobenius 矩阵
  - （Perron补｜非负不可约矩阵↔图强联通）
  <aside>
  
  $$ A\in\mathbb{R}^{m\times n},\quad\|A\|{F}=\left(\sum{i=1}^{m}\sum_{j=1}^{n}(a_{ij})^{2}\right)^{\frac12} $$
  1. 相容范数：绝对值不等式+柯西-施瓦兹不等式
  2. 按列分解：范数的平方是奇异值的平方和 范数的平方就是$A^\dagger A$的trace
  3. 酉不变性：酉变换不改变F-范数【酉不变性】 Unitary矩阵的。。变换保持范数相同 - 海森伯跟约化(可逆矩阵⇒初等变换；酉矩阵⇒) （奇异值是酉不变量【奇异值为酉（等价）不变量】 $A,B$酉等价，两者奇异值相同） </aside>
  - m2 范数性质
    1. 范数的平方就是$A^\dagger A$的trace
      
      先按列分解，再将2-范数写成矩阵乘法形式
      
      $$ \lVert A\lVert_F^2=\sum_{j=1}^n\lVert \alpha_j\lVert^2_2 =\sum_{j=1}^n \alpha_i^\dagger\alpha_j=Tr(A^\dagger A)=\sum_{i=1}^n\lambda_i(A^\dagger A)\\\|A\|F=\sum{i=1}^r\sigma_i^2(A). $$
      
      【奇异值】矩阵$A$乘其Hermite的特征值的开方，称矩阵$A$的奇异值（大于零，正奇异值）
    2. 【酉不变性】 Unitary矩阵的。。变换保持范数相同 - 海森伯跟约化(可逆矩阵⇒初等变换；酉矩阵⇒)
      
      $$ \lVert A\lVert_F=Tr[(UAV)^\dagger(UAV)]=\lVert UAV\lVert_F,U^\dagger U=E_m,V^\dagger V=E_n $$
    <aside>
    
    Hermite 矩阵 $A^\dagger=A$
    
    二次型产生，半正定矩阵，实特征值
    
    合同于对角阵，对角元有确定个$+1,-1,0$, $\#1+\#-1=rank A$
    
    【幂等厄密矩阵】对应正交投影
    
    Hermite矩阵和反hermite 矩阵，酉矩阵，对角阵为正规矩阵
    
    正规矩阵酉相似于对角阵（充要条件）
    
    Hermite矩阵奇异值等于对应特征值
    - 【正定厄密矩阵】Cholesky分解【Cholesky 分解】 $A^\dagger=A\in\mathbb C^{n\times n},x^\dagger Ax>0,\forall x\ne 0$ ，那么矩阵可做Cholesky分解为一般可逆矩阵的乘积（不唯一）
      
      $$ A=R^\dagger R. $$
      
      Hermite矩阵正定只需要看对角元大小：主对角线元素大于零，矩阵为厄密矩阵（实特征值），特征值都是正数
    - F范数满足三角不等式、相容性。
      
      $$ \lVert A\lVert_F=\Big[\sum_{i=1}^n\lambda^2_i(A)\Big]^{\frac 12}. $$
      
      $$ \lVert A+B\lVert_F\le\lVert A\lVert_F+ \lVert B\lVert_F,A^\dagger=A,B^\dagger=B. $$
      
      $$ \lVert AB\lVert_F\le \lVert A\lVert_F\cdot\lVert B\lVert_F, A^\dagger=A,B^\dagger=B,AB=BA. $$
    - 【Rayleigh-Ritz| 有界性】商以矩阵A的最大特征值为上界，最小特征值为下界
      - 【Schur分解】【Schur分解】中的上三角矩阵是对角阵，进而元素是特征值
        
        $$ A=UDU^\dagger $$
        
        Hermite矩阵的二次型是其特征值的凸组合
      - Weyl定理：Hemite矩阵扰动后的特征值仍介于扰动矩阵的特征值改变量中【Weyl】厄密矩阵A发生扰动后的厄密矩阵B，/la
        
        $$ \lambda_k(A)+\lambda_n(B)\le \lambda_k(A+B)\le \lambda_k(A)+\lambda_1(B). $$
    </aside>

矩阵相容性

矩阵范数的相容性

<aside> 🌀
- 自相容范数，简称相容范数 </aside>
- 验证自相容性|无穷范数的相容化
  - 无穷范数不相容。
    - 相容化

算子范数

导出范数 - 算子范数

【算子范数】

扰动【矩阵和向量乘法】：相容性可以做（绝对）上界估计，（相对）误差估计

矩阵：数表，空间变换

紧集：闭集+有界集合

$x\in \mathbb R^n\to Ax\in \mathbb R^m$，取

$$ \left \| A \right \| =\max_{\left \| x \right \| {(n)}=1} \left \| Ax \right \| {(m)}=\max{x{(n)\le 1}}Ax_{(m)}=\max_{x\ne 0}\frac {Ax_{(m)}}{x_{(n)}} $$