Theorem
- A為一個M*N階的real matrix
- rank(A) = r 。
則其 SVD 具有以下型式 :
其中
- U : M*M 且為 實正交矩陣 (orthogonal matrix)
- V : N*N 且為 實正交矩陣 (orthogonal matrix)
- Σ : M*N 為一個類對角矩陣
主對角元σ i > 0，稱為奇異值 (singular values)。
Note : SVD 的分解不具有唯一性。
為了便利應用，我們習慣將奇異值由大至小排序：
Calculate Steps
Step1
Step2
Step3
Step4
合併u1~u4 :
SVD 與 4大矩陣空間
做完SVD 分解後，可以得到 : (A:m*n)
其中 U =[u1,u2,…,ur,…um] 、 V = [v1,v2,…,vr,…,vn]
也就是
其中 4 大空間的基底都藏在其中 ， 做完SVD就找到4大空間了 !!!
SVD 與 正半定矩陣
正定或半正定矩陣與奇異值分解有密切關條
對於任意mxn階矩陣 A，交互乘積 A^T*A和A*A^T的特徵值都不為負值，故A^T*A和A*A^T是正半定矩陣
