正交变换
唠唠叨叨写了一大堆,然后发现要补一堆数学知识 🤬
在介绍 DFT 之前,先来从数学角度对这类变换做一个概述,请切换到线性代数的思维。我们已经学过时域中的信号,以及频域中的信号。说是域,但和数学中的“域”还真不是一回事(我在这里懵了好久),更像是数学中的空间。我们可以将信号看作这些空间中的一个向量,而变换的本质就是空间的转换。这类空间称为 Hilbert 空间 1,简单来说就是欧氏空间的高维推广。
在 Hilbert 空间中,信号 $\varphi_1,\cdots,\varphi_N$ 线性独立(不相关),则可成为一个 基。我们可以将空间中的任意信号分解成基的组合:
\[\bd{x} = \sum_{n=1}^N \alpha_n \varphi_n\]要求解分解系数 $\alpha$,我们可以构造另一组向量,$\hat{\varphi_1},\cdots,\hat{\varphi_N}$,满足 双正交关系:
\[\langle \varphi_i,\hat{\varphi}_j\rangle=\delta_{i,j}= \begin{cases} 1 & i=j\\ 0 & i\neq j \end{cases}\]然后与 $\bd{x}$ 做内积:
\[\langle x,\hat{\varphi_j}\rangle=\langle\sum_{n=1}^N \alpha_n \varphi_n,\hat{\varphi_j}\rangle=\alpha_j\\ \begin{cases} 连续:\alpha_j=\langle x(t),\hat{\varphi}_j(t)\rangle=\int x(t) \hat{\varphi}_j^*(t)\dif t\\ 离散:\alpha_j = \langle x[n],\hat{\varphi}_j[n]\rangle=\sum_n x[n] \hat{\varphi}_j^*[n] \end{cases}\]这样就能求得 $\alpha$。我们将 $\hat{\varphi_1},\cdots,\hat{\varphi_N}$ 称作 $\varphi_1,\cdots,\varphi_N$ 的 对偶基。
若 $\varphi_1,\cdots,\varphi_N$ 线性独立,且两两正交,则称为 正交基。我们可以证明其对偶基就是自己本身,证明如下:
\[设:\hat{\varphi}_j = \sum_{k=1}^N b_{jk} \varphi_k,则:\\ \langle \hat{\varphi}_j,\varphi_i\rangle = \sum_{k=1}^N b_{jk} \langle\varphi_k,\varphi_j\rangle=\delta_{i,j}\\ 令: \bd{B}= \begin{bmatrix} b_{11} & \cdots & b_{1N}\\ \vdots & & \vdots\\ b_{N1} & \cdots & b_{NN} \end{bmatrix} \bd{\Phi}= \begin{bmatrix} \langle\varphi_1,\varphi_1\rangle & \cdots & \langle\varphi_1,\varphi_N\rangle\\ \vdots & & \vdots\\ \langle\varphi_N,\varphi_1\rangle & \cdots & \langle\varphi_N,\varphi_N\rangle \end{bmatrix}\\ 则:\bd{B\Phi}^T = \bd{I},\bd{B}=(\bd{\Phi}^T)^{-1}\\ 对于正交基,有 \bd{B}=\bd{I},故:\hat{\varphi}_j = \varphi_j\]设 $X,Y$ 是两个 Hilbert 空间,$\bd{x},\bd{y}$ 分别是其中的信号,存在算子 $\bd{A}$,满足:
\[\bd{y}=\bd{Ax}\]则称 $\bd{A}$ 为一个 变换。若 $\bd{A}$ 是线性的,则称为线性变换。若 $\langle\bd{Ax},\bd{Ax}\rangle =\langle\bd{x},\bd{x}\rangle =\langle\bd{y},\bd{y}\rangle $,则称为 正交变换,此时 $\bd{A}$ 是一个正交矩阵(满足 $\bd{A}^T=\bd{A}^{-1}$)。
正交变换的性质如下:
- 正交变换的基向量是其对偶基向量(说人话就是:把正交变换的列向量看做一组基,那么这是组正交基)
- 正交变换的反变换存在且唯一,就是正交变换的转置,即:$\bd{A}^{-1}=\bd{A}^T$
- 正交变换前后信号能量不变(Parseval 定理)
- 信号正交分解具有最小平方近似性质(信号的相似?)
正交变换的实例
- 正弦类
- FS,FT,DTFT,DFS,DFT
- DCT,DST,DHT
- 非正弦类
- Walsh-Hadamard,Haar 变换
- SLT(斜变换)
这些变换十分复杂,我们会在后续文章中讲解到。