$$ \sigma_i=\sqrt{\lambda_i(A^\dagger A)}. $$
【奇异值为酉(等价)不变量】 $A,B$酉等价,两者奇异值相同
<aside> 🔥
等价:行列初等变换
相似:过渡矩阵可逆
合同:$B=P^TAP.$
</aside>
$$ A=UBV\\AA^\dagger=U(BB^\dagger)U^\dagger $$
两者酉相似,特征值相同,奇异值必然相同。
Hermite矩阵奇异值等于对应特征值
$$ A^\dagger A\bm x=A(A\bm x)=\lambda^2\bm x=\sigma^2\bm x\\\lambda^\dagger =\lambda,\sigma=\sqrt{\lambda^2}=\lambda $$
F-范数
<aside>
Hermite 矩阵 $A^\dagger=A$
二次型产生,半正定矩阵,实特征值
合同于对角阵,对角元有确定个$+1,-1,0$, $\#1+\#-1=rank A$
Hermite矩阵和反hermite 矩阵,酉矩阵,对角阵为正规矩阵
【正定厄密矩阵】Cholesky分解 【Cholesky 分解】 $A^\dagger=A\in\mathbb C^{n\times n},x^\dagger Ax>0,\forall x\ne 0$ ,那么矩阵可做Cholesky分解为一般可逆矩阵的乘积(不唯一)
$$ A=R^\dagger R. $$
Hermite矩阵正定只需要看对角元 大小:主对角线元素大于零,矩阵为厄密矩阵(实特征值),特征值都是正数
F范数 满足三角不等式、相容性。
$$ \lVert A\lVert_F=\Big[\sum_{i=1}^n\lambda^2_i(A)\Big]^{\frac 12}. $$
$$ \lVert A+B\lVert_F\le\lVert A\lVert_F+ \lVert B\lVert_F,A^\dagger=A,B^\dagger=B. $$
$$ \lVert AB\lVert_F\le \lVert A\lVert_F\cdot\lVert B\lVert_F, A^\dagger=A,B^\dagger=B,AB=BA. $$
【Rayleigh-Ritz| 有界性】商以矩阵A的最大特征值为上界,最小特征值为下界
【Schur分解】 【Schur分解】 中的上三角矩阵是对角阵,进而元素是特征值
$$ A=UDU^\dagger $$
Hermite矩阵的二次型是其特征值的凸组合
Weyl定理:Hemite矩阵扰动后的特征值仍介于扰动矩阵的特征值改变量中【Weyl】厄密矩阵A发生扰动后的厄密矩阵B,/la
$$ \lambda_k(A)+\lambda_n(B)\le \lambda_k(A+B)\le \lambda_k(A)+\lambda_1(B). $$
</aside>
【奇异值分解】存在酉矩阵
$$ A=U\begin{pmatrix}D&0\\0&0\end{pmatrix}V^\dagger,D=diag(\sigma_1,\cdots,\sigma_r). $$
两者酉等价(正线上三角,正线对角阵).
正规矩阵酉相似于对角阵
$$ AA^\dagger=U diag(\lambda_i)U^\dagger.\\ U^\dagger AA^\dagger U=diag(\lambda_i)=\begin{pmatrix}U_1^\dagger\\U_2^\dagger\end{pmatrix}AA^\dagger \begin{pmatrix}U_1&U_2\end{pmatrix} $$
取U_2为零。
将矩阵按照特征值分块, 1- 非零特征值的特征向量。那么其中一个小会得出:
$$ U_2^\dagger AA^\dagger U_2=\bm 0,\\\lVert A^\dagger U_2\lVert_{m2}=Tr()= 0 $$
根据非零块得到:
$$ V_1=A^\dagger U_1(D^{-1})^\dagger. $$
要构成n阶酉矩阵,需要补充标准正交集。
$$ V_2^\dagger V_1=0\\V_2^\dagger V_2=E_{n-r}. $$
可以验证,取这两个等式得出的U D V 正是奇异值分解中的对应项
确定V还可以使用U相同的办法:计算互异特征值的标准正交特征向量,列并起来作为V
$$ forget \ how $$
矩阵A的矩阵二范数就是奇异值的平方求和再开方,相容性的得到奇异值的不等式
矩阵A的算子二范数是A^\dagger A 的最大特征值开方,等于最大奇异值。相容性得到奇异值最大值的不等式
正规矩阵酉相似于对角阵,A^\dagger A ,奇异值正好是特征值的模。二米正定矩阵和二米班正定矩阵的特征值大于零,奇异值正是特征值。
类比(单纯矩阵)满秩分解,奇异值分解可以
$$ A=\sum_{i=1}^r\sigma_iu_ir_i^\dagger. $$
列乘行,是一个秩一矩阵。可以看做是满秩分解的推广。