Singular Value Decomposition

定义 Definition

奇异值分解（SVD）是一种矩阵分解方法：把任意矩阵 (A) 表示为
[ A = U\Sigma V^\top ] 其中 (U) 和 (V) 是正交（或酉）矩阵，(\Sigma) 是对角矩阵（对角线上的非负数称为奇异值）。SVD 常用于降维、去噪、最小二乘、求伪逆与低秩近似等。（在部分语境里也可泛指“把复杂对象分解成若干简单成分”的思想，但最常见的是线性代数中的这一含义。）

发音 Pronunciation (IPA)

/ˈsɪŋɡjələr ˈvæljuː ˌdiːkəmˈpoʊzɪʃən/

例句 Examples

SVD helps us reduce the noise in an image.
SVD 可以帮助我们减少图像中的噪声。

Using singular value decomposition, we can compute a low-rank approximation that preserves the main patterns in the data.
利用奇异值分解，我们可以计算一个保留数据主要模式的低秩近似。

词源 Etymology

• singular 源自拉丁语 singularis，意为“单一的、独特的”；在数学里常与“特殊/非一般情形”相关联。
• value 源自拉丁语 valere（“有价值、有效力”），在数学里指“数值”。
• decomposition 来自 *de-*（“分开”）+ 拉丁语 componere（“组合、构成”），字面意思是“分解”。
  合起来即“把矩阵分解成由奇异值主导的结构”。

相关词 Related Words

• Matrix
• Eigenvalue
• Eigenvector
• Diagonalization
• Rank
• Orthogonal
• Pseudoinverse
• Least Squares
• Principal Component Analysis
• Low-Rank Approximation

作品与出处 Works & Citations

• Golub & Van Loan, Matrix Computations（经典数值线性代数教材，系统讲解 SVD 的算法与应用）
• Strang, Introduction to Linear Algebra（面向学习者的线性代数教材，常以直观方式介绍 SVD 思想）
• Press et al., Numerical Recipes（包含用 SVD 做数值计算、拟合与求解的示例）
• Hastie, Tibshirani & Friedman, The Elements of Statistical Learning（在降维与统计学习背景下讨论与 SVD 相关的方法）