线形空间$V(P)(+.\cdot)$
和空间
子空间的和
$$ V_1+V_2\equiv\{\alpha_1+\alpha_2\mid\alpha_1\in V_1,\alpha_2\in V_2\} $$
包含$V_1,V_2$的最小子空间
区别于子空间 的并集,后者没有进行线形组合
<aside> 📢
【维数定理】
子空间的维数和等于子空间和的维数 加 子空间并的维数
$$ \dim V_1+\dim V_2=\dim (V_1+V_2)+\dim (V_1\cap V_2). $$
类似 容斥原理 https://en.wikipedia.org/wiki/Inclusion–exclusion_principle
</aside>
和空间,子空间的和
直和
向量同余,同余类,同余类全体:商集;定义同余加和同余数乘的商集,构成商空间
内积空间;实内积空间:欧氏空间;复内积空间:酉空间$V_n(\mathbb C)\left(+,\cdot,(\cdot,\cdot)\right)$
不变子空间,特征子空间
正交补子空间、直和补子空间
投影,正交投影
若$V=L\oplus M$(零元素),$\alpha\in V=\beta+\gamma$且唯一,则称$\beta$为$\alpha$的投影。
$$ P_{LM}:V\to L,\\\beta=P_{LM}\alpha=P\alpha $$
全空间到子空间的映射,即为投影。 几何直观上,投影是沿M对向量的投射留下的阴影(向量)
【幂等变换】(自己到自己空间为变换)投影是幂等变换
$$ P\beta=\beta=P\alpha\\P\alpha=P(P\alpha)=P^2\alpha $$
【线形变换】投影满足线形运算
$$ P(k_1\alpha_1+k_2\alpha_2)=k_1P\alpha_1+k_2P\alpha_2. $$
线形变换可以转变为矩阵⇒
【矩阵表示】【幂等矩阵】代表一种抽象的投影
$$ V_n(P)=\mathcal L(\varepsilon_1,\varepsilon_2,\cdots,\varepsilon_n). $$
$$ (\varepsilon_1,\varepsilon_2,\cdots,\varepsilon_n)A=P_{LM}(\varepsilon_1,\varepsilon_2,\cdots,\varepsilon_n)=P^2(\varepsilon_1,\varepsilon_2,\cdots,\varepsilon_n)\\ = P((\varepsilon_1,\varepsilon_2,\cdots,\varepsilon_n)A)=P(\varepsilon_1,\varepsilon_2,\cdots,\varepsilon_n)A=(\varepsilon_1,\varepsilon_2,\cdots,\varepsilon_n)A^2\to A=A^2 $$
正交投影:若$V=L\oplus M$且分解向量正交$(\beta,\gamma)=0$,称正交投影。
几何直观理解,向量按照两个正交组组合投影,垂直入射
【幂等厄密矩阵】对应正交投影
正交投影变换对应幂等Hermite矩阵
$$ (P\alpha,\alpha-P\alpha)=0 $$
取标准正交基,按列组合出一酉矩阵(正交矩阵),也可取出各向量的坐标
$$ V^\dagger V=E_n,\\\alpha=Vx $$
带入投影的定义和幂等矩阵表示,有
$$ P\alpha = PVx=VAx $$
最后代入内积。
$$ 0=(\beta,\gamma)=\cdots\\=x^\dagger A^\dagger (E-A)x,\forall x\\\to 0=A^\dagger-A^\dagger A\\\to A=(A^\dagger)^\dagger $$
<aside>
Hermite 矩阵 $A^\dagger=A$
二次型产生,半正定矩阵,实特征值
合同于对角阵,对角元有确定个$+1,-1,0$, $\#1+\#-1=rank A$
Hermite矩阵和反hermite 矩阵,酉矩阵,对角阵为正规矩阵
【正定厄密矩阵】Cholesky分解 【Cholesky 分解】 $A^\dagger=A\in\mathbb C^{n\times n},x^\dagger Ax>0,\forall x\ne 0$ ,那么矩阵可做Cholesky分解为一般可逆矩阵的乘积(不唯一)
$$ A=R^\dagger R. $$
Hermite矩阵正定只需要看对角元 大小:主对角线元素大于零,矩阵为厄密矩阵(实特征值),特征值都是正数
F范数 满足三角不等式、相容性。
$$ \lVert A\lVert_F=\Big[\sum_{i=1}^n\lambda^2_i(A)\Big]^{\frac 12}. $$
$$ \lVert A+B\lVert_F\le\lVert A\lVert_F+ \lVert B\lVert_F,A^\dagger=A,B^\dagger=B. $$
$$ \lVert AB\lVert_F\le \lVert A\lVert_F\cdot\lVert B\lVert_F, A^\dagger=A,B^\dagger=B,AB=BA. $$
【Rayleigh-Ritz| 有界性】商以矩阵A的最大特征值为上界,最小特征值为下界
【Schur分解】 【Schur分解】 中的上三角矩阵是对角阵,进而元素是特征值
$$ A=UDU^\dagger $$
Hermite矩阵的二次型是其特征值的凸组合
Weyl定理:Hemite矩阵扰动后的特征值仍介于扰动矩阵的特征值改变量中【Weyl】厄密矩阵A发生扰动后的厄密矩阵B,/la
$$ \lambda_k(A)+\lambda_n(B)\le \lambda_k(A+B)\le \lambda_k(A)+\lambda_1(B). $$
</aside>
Householder变换
$$ A\in\mathbb C^{m\times n}_r=(\alpha_1,\alpha_2,\cdots,\alpha_n) $$