0

本節(jié)之所以稱為講座0 因為它只是一個很簡單的例子 還談不上正式入門但他具備了部分的思想

[x0,x1,x2,x3]=[90,70,100,70]

為達(dá)到壓縮 我們可取 (x0+x1)/2　 (x0-x1)/2 來代表 x0,x1

這樣 [90,70] 可表示為 [80,10]　80即平均數(shù) 10是小范圍波動數(shù)（可想象出一種波的形狀）

[90,70] --〉[80,10] ,　[100,70] --〉 [85,15]

可以想象80 和85 都是局部的平均值　反映大的總體的狀態(tài)是變化相對緩慢的值 可以認(rèn)為他們是低頻部分的值

而10、15是小范圍波動的值 局部變換較快　可以認(rèn)為他們是高頻部分的值

FIRST: 把[90,70,100,70] 寫成 [80,85,10,15]　即把低頻部分寫在一起(記頻率L） 高頻部分寫在一起（H)

SECOND: 而[80,85] 又可經(jīng)同樣的變換--> [82.5, -2.5] 這樣 82.5表示更低頻的信息(記頻率LL) -1.5則表示了頻率L上的波動

　　 最后90,70,100,70] --〉[82.5, -2.5, 10, 15]　這樣信息就可被壓縮了（數(shù)字范圍小了）

---這就是二級變換　同樣的你可以進行更高級的變換　呵呵　很簡單吧

現(xiàn)在再來擴展一下
[90,70]---> [80,10]　寫成矩陣

[90,70] * [1/2,　1/2]
　　　　[1/2 ,-1/2]　

如果是[90,70,100,70]　第一步就可寫成矩陣M1
[1/2,　0,　1/2,　0　]
[1/2,　0,　-1/2, 0　]
[0,　 1/2,　0,　 1/2]
[0 ,　1/2,　0,　-1/2]

第二步 只對低頻 L操作 高頻不變 故可寫成M2
1/2,　 1/2,　0, 0
1/2,　-1/2, 0, 0
0,　　0,　　1, 0
0,　　0,　　0, 1

令M=M1*M2 則可對4*4 的點陣操作
同樣 你可輕易寫出 16*16的點陣矩陣
試著對一幅圖像操作一步步運算 看看其結(jié)果
第一步運算后　原圖像縮小至左邊一半了 右邊的是對應(yīng)波動信息
第二步運算后　圖像又縮小至左邊一半了 對應(yīng)波動信息

剛才我們僅僅對行變換　如果同時對列變換 結(jié)果如何呢 自己試吧 呵呵
方式1： 對每一次行變換后對列變換 交叉進行
方式2： 對行變換后對列變換 獨立進行

事物的不變性（或緩慢變化）和快速變化性 信息分離 再分離

1

小波分析系列講座1—初見小波

這一節(jié)中希望大家能多動腦子 呵呵 因為我懶得寫很多東西 嘿嘿 不好意思了

接著看上一節(jié)的變換

[90,70,100,70] --〉[82.5, -2.5, 10, 15]

82.5 即4個數(shù)的平均數(shù)可畫出其對應(yīng)波形如F.1 其他數(shù)字對應(yīng)相應(yīng)波形 （請稍微思考一下為什么及這些波形特點）    好了 思考后請畫出8個點陣的對應(yīng)波形 （如是新手，一定要親手作作） 以后我們將使用這些波深入學(xué)習(xí)

在這里我們稱這些圖形為波, 與常見的SIN波不同 呵呵可能不習(xí)慣

我舉幾個重要特性：

面積特性：保持變換前后能量不變 （常如此，但非必須）

F.3à F.4 平移特性 （可對不同部分使用同一操作）

F2 à F.3 伸縮特性 （將操作對象的尺度變大或變?。?/span>

空間表示的信息完整性 （最少用幾個波就可以表示這個向量呢，波表示的數(shù)的含義，波之間可以替換嗎，有其他形式的波嗎 其他形式的波能用更少的數(shù)量來表示這個向量嗎）

等等

等好好思考了這些特性后，我們下一節(jié)將學(xué)習(xí)正交基，空間表示等

                                            ---------------------------FEATHERSKY

1/2

2

若一物體可用顏色和大小表示，我們稱顏色和大小為特征基，構(gòu)成此物體特征描述空間。
大小和顏色是互不相干的2種描述，我們稱其為正交。同時若這些基的能夠完全表示
所有物體，我們稱其為完備特征基。若特征基完備且正交，人們就可以在特定特征上對比事物
而不受其他特征上的信息干擾，但由于人們的認(rèn)知形成過程，特征基并非完全正交。

例三唯空間的一個基的組合[1,0,0] [0,1,0] [0,0,1] 是正交 完備
[1,0,0] [0,1,0] [0,1,1] 完備 但不正交 因為[0,1,1]上的信息有一部分可以由[0,1,0]基表示

再來看特征描述空間轉(zhuǎn)換的性質(zhì)：
[x1,x2,x3,x4]構(gòu)成向量空間，若四元變量無任何約束，則轉(zhuǎn)換到任意特征描述空間，
最少需要4個特征基才能完備描述。
若f(x1)->x2, g(x1)->x3 則我們可用新的特征基x1,規(guī)則f and g, x4 這樣就只需要3個
特征基就可完備描述，因為特征基表現(xiàn)了物體特征，因而可以用更簡潔的描述表示物體。

那么在圖象中[x1,x2,x3,x4]為何可被壓縮呢，他們也是自由變化的參數(shù)呀（想想）
呵呵 雖然他們自由變化，但從自然圖片鄰近點的相關(guān)性，我們可知在大概率上
x1,x2,x3,x4相近（這樣理論上只要1個x1就夠了），于是我們用相應(yīng)特征波形將其壓縮，
這樣在大概率上數(shù)據(jù)就得到了壓縮。由于我們這種方法采取的特征基，
也決定了對突變邊緣變換后的效果。（大家可以試試，要多動手，呵呵，懶人！
簡單分析就可得出對突變邊緣變換后的特征效果，這樣就可以檢測突變）

不知道大家畫出8個點的波形了嗎，我現(xiàn)在按頻率稱這些波形為LLL,LLH,LH,LH,H,H,H,H
(L:low frequence, H high frequence)
First:　 4 L +4 H
Second:　4 L-> 2 LL + 2 LH　
THIRD:　 2 LL->　LLL + LLH
現(xiàn)在請把他畫成樹的形狀，然后研究分辨率的關(guān)系和特征基的關(guān)系及特征空間的關(guān)系

3

呵呵 現(xiàn)在任給一函數(shù)f(x) , 我們怎么知道小波級數(shù)可以無限逼近這個函數(shù)呢

我們想象 任給beta>0,可以將f(x)曲線按每beta長度分成很多小段，對應(yīng)很多點

若我們可以用一函數(shù)g(x)來擬合這些點，那么g(x)和f(x)在任意x上的誤差將小于beta.

若點數(shù)量為2^n個　那么我們就可以分別用2^(n-1)個L波和2^(n-1)個H波擬合

然后可將L波再分解，最后得到一棵樹 （分解的級數(shù)由你決定）

（如果f(x)對應(yīng)的點數(shù)為2^(n+1),那么我們需要在已有的基礎(chǔ)上如何做呢）

這時可能有人感到奇怪，為什么要不停的分解下去呵呵

讓我們看看1個L和相應(yīng)1個H代表的意思，他代表很小的一段上的信息

若是我們一眼看著這么多的小段信息（不畫出其曲線），我們可能就暈了

小波變換的精髓就是：對于變化平緩的信息（對應(yīng)低頻信息），我們在大范圍（尺度）上觀察
對于變化很快的信息（對應(yīng)高頻信息），我們在小范圍上觀察。

想一想 我們的小波變換是不是代表這個意思呢呵呵

這也被稱為多尺度或多分辨率思想

（說明 我在此說的f(x)可被擬合是要有一定條件的，嚴(yán)格的證明以后會給出）

現(xiàn)在我們將任一形狀的波形經(jīng)伸縮變換，平移變換 疊加后得到一曲線

可以想象 若我們還用原來的波形來擬合它，明顯沒有用此波形來擬合它更好

這告訴我們小波的形狀也不是固定不變的它的形狀的選取由你要分析的特征決定

例如 [x1,x2,x3,x4]　若知道 x2=2*x1 +/- error , x3=3*x1 +/- error　, |error|<2　　

請你動手畫出對應(yīng)波形 并且注意怎樣反變換回去（這點很重要）

4

總結(jié)一下前面所講的內(nèi)容思想
任何一個事物都對應(yīng)著多個描述空間（從不同角度觀察），每個描述空間都由自身的特征描述基構(gòu)成，若這些特征基可以描述出S中不同事物，則稱特征基在S中是完備的。若這些特征基兩兩之間不相關(guān)，則稱其為正交。當(dāng)然完備并不要求正交，正交的好處在于每個特征基上描述的信息和其他特征基不相關(guān)。從而消除了信息的冗余（部分重復(fù)）表示。
--描述空間也稱描述域。不同特征基也有不同描述和運算規(guī)則。
故此我們可以將事物在A描述空間上的特征轉(zhuǎn)為在B空間（也成變換域）的特征，從而更符合于我們的觀察或認(rèn)知角度。
傳統(tǒng)的傅里葉變換即是引入無窮余玄基和正玄基來無窮逼近L2空間中的函數(shù)。因余玄基和正玄基的許多優(yōu)秀性質(zhì)而被廣泛應(yīng)用。

在圖像壓縮中，我們就是利用了圖像數(shù)據(jù)的特性，將其轉(zhuǎn)化為符合其特性描述的空間上，從而更好的描述了圖像而達(dá)到壓縮的目的。
而自然圖像的數(shù)據(jù)特性就是其中相鄰的象素點的顏色在一個大的概率上相關(guān)，否則我們將要看到一片顏色亂變的點。
對此，我們引入圖像的頻域的描述空間概念，對于大范圍內(nèi)平緩變化的信息，我們稱其為低頻信息，對于小范圍內(nèi)變化很快的信息，我們稱其為高頻信息，并將這些信息對應(yīng)頻域上的數(shù)值。低頻和高頻信息完全在于人為，并不一定要有統(tǒng)一形式。

離散傅里葉變換即是這樣一種變換。它以變化平緩的波來描述低頻信息，以變化快速的波來描述高頻信息。因自然圖像相關(guān)性，故低頻信息描述了整體的信息，而高頻信息描述了局部細(xì)節(jié)。由此知，大部分高頻信息的值應(yīng)該在一個較小的范圍內(nèi)，再結(jié)合其他特性，進行壓縮。

但傅里葉變換存在一些不足。例如，要想取得較好的低頻信息，我們需要相對較長的變換窗口，而要想取得較好的高頻信息，我們又需要較短的窗口。(非常短窗口的低頻信息和非常長窗口的高頻信息都幾乎沒什么很大的意義) , 這樣就引起一對矛盾。

小波變換應(yīng)運而生，為了解決傅里葉變換的不足，它就需要用長窗口來提取低頻信息，用短窗口來提取高頻信息。那么它是如何做的呢
正如第0節(jié)講到的變換，它就滿足了這個要求。它也就是haar小波變換。

5

以圖像來說明建立空間特征基和小波變換的關(guān)系
設(shè)有一幅圖像，從不同分辨率考察。
若我們離很遠(yuǎn)來看，可能會把每64個點看作一個點，若記此時構(gòu)成的描述空間為V0.
若走進一些，把16個點看作一個點，記此時構(gòu)成的描述空間為V1
若再走進一些，把4個點看作一個點，記此時構(gòu)成的描述空間為V2
若再走進一些，把1個點看作一個點，記此時構(gòu)成的描述空間為V3
則可知凡是Vi空間內(nèi)可以描述的圖像，Vi+1空間內(nèi)皆可描述,并且描述的更細(xì)致
故Vi包含于Vi+1空間

記Vi+1=Vi+Wi ,即Vi和Wi構(gòu)成Vi+1空間。（若Vi⊥Wi ，則Wi為Vi的正交補空間，實際應(yīng)用中不要求一定正交。）( ⊥ 正交)
則Vi+1=Vi+Wi=Vi-1+Wi-1+Wi=……

記Pi為圖像在Vi空間的描述
則Di= Pi+1 - Pi 就表示了圖像在這兩個描述空間的細(xì)節(jié)差異，因為Vi+1=Vi+Wi，故Di為圖像在Wi空間上的描述。即Wi空間表述了細(xì)節(jié)差異。如果Wi⊥Wj, 并且在Wj空間中能找到一組正交標(biāo)準(zhǔn)基，其基本函數(shù)必是高（帶）通的，就稱其為小波函數(shù)。
Wi⊥Wj正交，即為不同分辨率下的細(xì)節(jié)差異不相關(guān)，從而消除冗余。

那么例子中V3=W2+W1+W0+V0
相應(yīng)得到　 P3=D2+D1+d0+P0
即最清晰分辨率下的圖像可以有不同分辨率下的細(xì)節(jié)差異和最高分辨率下的圖像合成而得
由概率特性知細(xì)節(jié)差異在大范圍內(nèi)是一個較小的值。

如果用上節(jié)所引入的頻域概念來看，低頻信息就是P0,高頻為Di,這里的低頻和高頻就和傅里葉有稍微不同。而從分析中，我們自然而然的知道隨著頻率的不同，其數(shù)值對應(yīng)的空間窗口大小也不同了。正好滿足上節(jié)所說。

呵呵，剩下的分析任務(wù)就是如何構(gòu)造Wi

6

在上節(jié)所講的Vi+1=Vi+Wi中 V就是尺度空間，即我們觀察事物所采用的尺度，也就是分辨率。 W就是細(xì)節(jié)空間，即不同尺度空間觀察事物的差異。 并且知道 一幅圖像=最低分辨率下圖像+不同細(xì)節(jié)空間的細(xì)節(jié)信息即 一幅圖像=系數(shù) * 尺度基 + 系數(shù) * 細(xì)節(jié)空間基

在Harr小波中若一個事物可用如下2個尺度基描述（尺度相同，位移不同）記為1尺度 那么當(dāng)我們用一個大尺度基描述時（即取平均），就會有一個失真 記為0尺度此細(xì)節(jié)差異就對應(yīng)描述基如下（補空間基） 正如富里葉變換是將一個周期函數(shù)用無窮項正玄或余玄基逼近，小波變換是將一個函數(shù)以小波基來逐級逼近。

富里葉變換是以ejwt 為核進行積分，小波變換以小波基為核進行積分. 函數(shù)W(x) 為母小波，那么通過尺度變換和平移變換，可得到不同小波基記為Wa,b=| a |-1/2 W( (x-b) /a ) 因為我們希望小波級數(shù)能無條件收斂，故母小波應(yīng)滿足一些條件

1. 小波函數(shù)值的絕對值在整個R上是可積的 L1函數(shù)空間即小波函數(shù)在無窮大處的值應(yīng)該趨向于0，保證收斂性

2. 小波函數(shù)值的平方值在整個R上是可積的 L2函數(shù)空間即小波函數(shù)的能量也是一個有限值，否則就將一個有限能量函數(shù)變換到無限能量級數(shù)上，其級數(shù)很難收斂 當(dāng)然母小波和被變換函數(shù)還應(yīng)該滿足一些其他條件，以保證反變換存在，否則意義也不大。

在實際應(yīng)用中，我們經(jīng)常使用離散的2進小波變換。即尺度是2 j , 位移是k Wj,k= 2 j/2 W ( 2 j x- k ) 構(gòu)造二進小波函數(shù)和尺度函數(shù)的方法 Vn空間中，設(shè)S (x)是一個尺度基，則S (x-k) 對應(yīng)著不同位移的尺度基,所有這些尺度基構(gòu)成L2函數(shù)空間n尺度下的完備基。 Vn+1空間中，S(2x)是一個尺度基，則S(2x-k) 對應(yīng)著不同位移的尺度基,所有這些尺度基構(gòu)成L2空間n+1尺度下的完備基。

如上Harr小波圖 n+1尺度是比n尺度更精細(xì)的空間，而Vn空間屬于Vn+1空間，故Vn空間中的基可用Vn+1空間中的基表示即 S (x)= ∑ Pk * S (2x-k) Pk 是系數(shù)。 對應(yīng)的有其補空間基 W (x)= ∑ Qk * S (2x-k) Qk 是系數(shù)。

這就是著名的兩尺度差分方程，它說明了Vn空間的基與Wn空間的基可由Vn+1空間的基經(jīng)過某種方式濾波產(chǎn)生（簡單的說 就是可由Vn+1空間的基乘以不同系數(shù)）。

從而我們只需求出系數(shù)，就可以由尺度函數(shù)生成小波函數(shù)。（有些書上，也把Vn稱作小波）。此處再次思考一下概念，我們就更明白了多分辨率小波分析用不同尺度觀察事物的思想。其對應(yīng)濾波器圖如下 通過2個濾波器P, Q 將信號分解，然后通過其(逆)共軛濾波器P*, Q*進行合成.

所謂濾波過程可以簡單的認(rèn)為就是將信號乘以一些系數(shù) 例上述harr小波兩尺度差分方程為 S (x)= 1/2 * S (2x)+ 1/2 * S (2x-1) W (x)= S (2x) - S (2x-1) 對應(yīng)濾波器系數(shù)如圖就很明了了。 P =[1/2 , 1/2 ] Q =[1, -1] P*=[1, 1 ]T Q*=[1/2, -1/2 ]T

依圖所示，我們有如下關(guān)系 Sj-1 = Sj * P Dj-1 = Sj * Q Sj = Sj-1 * P* + Dj-1 * Q* 對于雙正交濾波器，信號Sj-1 與 Dj-1 不相關(guān)那么P 應(yīng)該可以無損的重構(gòu)信號 ，故 P * P* = I ( 單位矩陣) 同理 Q * Q* = I ( 單位矩陣) 經(jīng)Q濾波后的信號 如果經(jīng)P* 重構(gòu)后，值應(yīng)該為0，保證2濾波器正交， Q * P* =0 同理 P * Q*=0 為使Sj能夠重構(gòu) 我們很容易驗證上面Harr小波的濾波器系數(shù)這也說明了小波變換與濾波器的關(guān)系

7

基于提升方法(lifting scheme)的小波變換.
提升法被稱為第二代小波，可見其重要性。

下面先舉一個Harr小波的例子。
在一序列中有相鄰數(shù)據(jù) a, b　我們計算出其低頻l = (a+b)/2 高頻 h =b-a
如果不引入新數(shù)據(jù)，僅對a ,b　更新， 可寫作 b - =a ,　a+=b/2
這樣我們發(fā)現(xiàn)其可在自身位置上完成小波變換，而且還大大簡化了計算過程（在復(fù)雜的變換中更明顯）。

仔細(xì)分析，我們知道b是差異高頻，它是當(dāng)前值及前一個值對當(dāng)前值的預(yù)測差，然后低頻a ，由當(dāng)前值及差異計算出。這樣就提供了我們一個新思想。

提升法的是實現(xiàn)步驟。
1． 分裂：將原始信號Sj分裂成Sj-1（保存低頻數(shù)據(jù)部分）　和 Dj-1（保存高頻數(shù)據(jù)部分）
2． 預(yù)測：用Sj-1預(yù)測Dj-1，并計算出預(yù)測差作為高頻數(shù)據(jù)，保存于Dj-1中
3． 更新：根據(jù)高頻數(shù)據(jù)Dj-1 更新低頻部分Sj-1

這樣就完成了一次提升變換，呵呵，很簡單吧，其逆變換可相應(yīng)推導(dǎo)出。

為防止誤解，這里指出的預(yù)測可以使用多個數(shù)據(jù)來預(yù)測一個數(shù)據(jù)。例下

 Dk - = ( Sk+Sk+1 ) /2
 Sk + = (Dk+ D k+1) /4

你也可以結(jié)合上節(jié)所講的濾波器，構(gòu)造出更多的提升小波變換。