小波包

前言

在多分辨率分析的分解过程中 \[ V_{j+1}=V_j \oplus W_j \] 这样每次将低频函数信息再分解为低频与高频部分。然而每次的分解实际上都不是完全的，高频的空间中同样含有一定的低频信息，而且高频信息不做分解则高频信息分辨率不高，由此即有小波包的概念。我们可以同时对\(V_j\)与\(W_j\)空间做分解，得到类似于二叉树的分解形式。

如图大致为小波分解与小波包分解的过程。

• 小波分解

• 小波包分解

小波包定义

令\(\phi_0=\phi,\phi_1=\psi\)，则我们已经有双尺度方程和小波关系如下： \[ \phi_0(x)=\sum h_k\phi_0(2x-k) \]

\[ \phi_1(x)=\sum g_k\phi_0(2x-k) \]

其中\(g_k=(-1)^k\overline{h_{1-k}}\)

推广定义 \[ \phi_{2l}(x)=\sum h_k\phi_l(2x-k) \]

\[ \phi_{2l+1}(x)=\sum g_k\phi_l(2x-k) \]

它们即定义为由正交尺度函数\(\phi(x)\)确定的正交小波包。

这样对于一个\(\phi_n\)，通过n的二进制表示，则可以直接得到\(\phi_n\)的构造过程。

\(Thm\) 设n的二进制表示 \[ n=\sum_{j=1}^\infty\epsilon_j 2^{j-1} \] 则 \[ \hat{\phi}_n(\lambda)=\prod_{j=1}^\infty P_{\epsilon_j}(\frac{\lambda}{2^j})\hat{\phi}_0(0)=\frac{1}{\sqrt{2\pi}}\prod_{j=1}^\infty P_{\epsilon_j}(\frac{\lambda}{2^j}) \] 其中 \[ P_0(\lambda)=\frac{1}{2}\sum h_ke^{-ik\lambda},P_1(\lambda)=\frac{1}{2}\sum g_ke^{-ik\lambda} \]

\(Thm\) 正交尺度函数生成的\(\{\phi_n\}\)标准正交。

小波包的运用

正交分解

令\(U_j^n=\overline{span\{\phi_n(2^jx-k)\}}\)

则 \[ U_{j+1}^n=U_j^{2n}\oplus U_j^{2n+1} \] 这也正是上面分解过程图中所表现的。

这种空间结构就是和原本的小波分解完全一致的，只是在高频部分作了同样的变换。

分解重构算法

\[ U_{j+1}^n=U_j^{2n}\oplus U_j^{2n+1} \]

假设 \[ u_{j,k,l}(x)=2^{j/2}\phi_k(2^jx-l) \] 信号投影： \[ f_{j+1,n}(x)=f_{j,2n}(x)+f_{j,2n+1}(x) \]

\[ \begin{aligned} f_{j+1,n}(x)&=\sum c_{j+1,n,l}u_{j+1,n,l}(x)\\ f_{j,2n}(x)&=\sum c_{j,2n,l}u_{j,2n,l}(x)\\ f_{j,2n+1}(x)&=\sum c_{j,2n+1,l}u_{j,2n+1,l}(x) \end{aligned} \]

同之前有结论

分解算法： \[ c_{j,2n,l}=2^{-1/2}\sum c_{j+1,n,k}\overline{h_{k-2l}} \]

\[ c_{j,2n+1,l}=2^{-1/2}\sum c_{j+1,n,k}\overline{g_{k-2l}} \] 重构算法： \[ c_{j+1,n,l}=2^{-1/2}\sum c_{j,2n,k}h_{l-2k}+2^{-1/2}\sum c_{j,2n+1,k}g_{l-2k} \]

最优小波包

这样的分解可以沿二叉树一直进行下去，究竟在哪里停下会比较好呢。一个自然的想法是如果能缩减信息量，则作分解，否则就停在这个结点了。

因此要找代价函数满足对长度有限向量具有可加性，以及可以将零向量映射到0。

参考熵的定义，定义代价函数 \[ M(a)=-\sum_n p_n\log p_n,~p_n=\frac{|a_n|^2}{\sum_k |a_k|^2} \] 然而它不满足可加性，事实上直接定义为 \[ \lambda(a)=-\sum_k |a_k|^2\log |a_k|^2 \] 可以证明它与\(M\)有正线性关系且满足可加性。