正交变换
唠唠叨叨写了一大堆，然后发现要补一堆数学知识 🤬
在介绍 DFT 之前，先来从数学角度对这类变换做一个概述，请切换到线性代数的思维。我们已经学过时域中的信号，以及频域中的信号。说是域，但和数学中的“域”还真不是一回事（我在这里懵了好久），更像是数学中的空间。我们可以将信号看作这些空间中的一个向量，而变换的本质就是空间的转换。这类空间称为 Hilbert 空间 1，简单来说就是欧氏空间的高维推广。
在 Hilbert 空间中，信号 $\varphi_1,\cdots,\varphi_N$ 线性独立（不相关），则可成为一个 基。我们可以将空间中的任意信号分解成基的组合：
\[\bd{x} = \sum_{n=1}^N \alpha_n \varphi_n\]要求解分解系数 $\alpha$，我们可以构造另一组向量，$\hat{\varphi_1},\cdots,\hat{\varphi_N}$，满足 双正交关系：
\[\langle \varphi_i,\hat{\varphi}_j\rangle=\delta_{i,j}= \begin{cases} 1 & i=j\\ 0 & i\neq j \end{cases}\]然后与 $\bd{x}$ 做内积：
\[\langle x,\hat{\varphi_j}\rangle=\langle\sum_{n=1}^N \alpha_n \varphi_n,\hat{\varphi_j}\rangle=\alpha_j\\ \begin{cases} 连续：\alpha_j=\langle x(t),\hat{\varphi}_j(t)\rangle=\int x(t) \hat{\varphi}_j^*(t)\dif t\\ 离散：\alpha_j = \langle x[n],\hat{\varphi}_j[n]\rangle=\sum_n x[n] \hat{\varphi}_j^*[n] \end{cases}\]这样就能求得 $\alpha$。我们将 $\hat{\varphi_1},\cdots,\hat{\varphi_N}$ 称作 $\varphi_1,\cdots,\varphi_N$ 的 对偶基。
若 $\varphi_1,\cdots,\varphi_N$ 线性独立，且两两正交，则称为 正交基。我们可以证明其对偶基就是自己本身，证明如下：
\[设：\hat{\varphi}_j = \sum_{k=1}^N b_{jk} \varphi_k，则：\\ \langle \hat{\varphi}_j,\varphi_i\rangle = \sum_{k=1}^N b_{jk} \langle\varphi_k,\varphi_j\rangle=\delta_{i,j}\\ 令： \bd{B}= \begin{bmatrix} b_{11} & \cdots & b_{1N}\\ \vdots & & \vdots\\ b_{N1} & \cdots & b_{NN} \end{bmatrix} \bd{\Phi}= \begin{bmatrix} \langle\varphi_1,\varphi_1\rangle & \cdots & \langle\varphi_1,\varphi_N\rangle\\ \vdots & & \vdots\\ \langle\varphi_N,\varphi_1\rangle & \cdots & \langle\varphi_N,\varphi_N\rangle \end{bmatrix}\\ 则：\bd{B\Phi}^T = \bd{I}，\bd{B}=(\bd{\Phi}^T)^{-1}\\ 对于正交基，有 \bd{B}=\bd{I}，故：\hat{\varphi}_j = \varphi_j\]设 $X,Y$ 是两个 Hilbert 空间，$\bd{x},\bd{y}$ 分别是其中的信号，存在算子 $\bd{A}$，满足：
\[\bd{y}=\bd{Ax}\]则称 $\bd{A}$ 为一个 变换。若 $\bd{A}$ 是线性的，则称为线性变换。若 $\langle\bd{Ax},\bd{Ax}\rangle =\langle\bd{x},\bd{x}\rangle =\langle\bd{y},\bd{y}\rangle $，则称为 正交变换，此时 $\bd{A}$ 是一个正交矩阵（满足 $\bd{A}^T=\bd{A}^{-1}$）。
正交变换的性质如下：
- 正交变换的基向量是其对偶基向量（说人话就是：把正交变换的列向量看做一组基，那么这是组正交基）
- 正交变换的反变换存在且唯一，就是正交变换的转置，即：$\bd{A}^{-1}=\bd{A}^T$
- 正交变换前后信号能量不变（Parseval 定理）
- 信号正交分解具有最小平方近似性质（信号的相似？）
正交变换的实例
- 正弦类
- FS，FT，DTFT，DFS，DFT
- DCT，DST，DHT
- 非正弦类
- Walsh-Hadamard，Haar 变换
- SLT（斜变换）
这些变换十分复杂，我们会在后续文章中讲解到。