基于優(yōu)化神經(jīng)網(wǎng)絡(luò)的FIR濾波器的設(shè)計方案
首先定義權(quán)值矩陣:
設(shè)置性能指標:
為訓練樣本數(shù)。
于是權(quán)值修正的公式為:
式中:α為學習速率。
迭代的終止條件可設(shè)為性能指標J滿足一定條件,而關(guān)于學習速率α的選取會直接影響到神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性。目前,已經(jīng)有人提出了其適當?shù)倪x取范圍,例如羅玉雄等人已經(jīng)證明,當滿足0α(2/|| C ||2)時(這里||·||2表示的是歐氏范數(shù)的平方),神經(jīng)網(wǎng)絡(luò)是穩(wěn)定的;曾湊訓熱艘蔡岢霾⒅っ髁說甭足0α(4/N)時,神經(jīng)網(wǎng)絡(luò)是穩(wěn)定的。
3 模擬退火算法
由于以上的網(wǎng)絡(luò)學習算法從本質(zhì)上來說,還是一種BP算法,所以不可避免地會存在BP算法的缺陷,初始值的選取會影響最終結(jié)果,且容易陷入局部極小值。
模擬退火算法與初始值無關(guān),算法求得的解與初始解狀態(tài)(是算法迭代的起點)無關(guān);模擬退火算法具有漸近收斂性,在理論上已得到嚴格證明,當初溫充分高,降溫足夠慢,每一溫度下抽樣足夠長,最終溫度趨于零時,算法最終以概率1收斂到全局最優(yōu)解。模擬退火算法通過概率判斷來接受新狀態(tài)是算法在局部極小解處有機會跳出并最終趨于全局最優(yōu)的根本原因。于是將模擬退火算法加到前面的算法中去,就可以很好地彌補上述算法的不足。
模擬退火算法的步驟如下:
(1)由一個產(chǎn)生函數(shù)從當前解S產(chǎn)生一個位于解空間的新解S'。
(2)計算與新解所對應的目標函數(shù)差。這里以最小阻帶衰減為評價函數(shù)C(S),這個函數(shù)可以由所得解S輕易地求出,于是目標函數(shù)差△t=C(S')-C(S);
(3)判斷新解是否被接受,其依據(jù)是一個接受準則,最常用的接受準則是Metropolis準則。若△t≥0,則接受S'作為新的當前解S;否則,以概率exp(-△t/T)接受S'作為新的當前解S。
(4)當新解被確定接受時,用新解代替當前解,同時修正評價函數(shù)。此時,當前解實現(xiàn)了一次迭代,可在此基礎(chǔ)上開始下一輪試驗;當新解被判定為舍棄時,則在原當前解的基礎(chǔ)上繼續(xù)下一輪試驗。
將模擬退火融入原算法,其實主要是用原算法來實現(xiàn)模擬退火中第(1)步的產(chǎn)生解S,于是可得到總的算法:
(1)初始化,初始溫度T(充分大),初始解狀態(tài)S(是算法迭代的起點),每個T值的迭代次數(shù)L,初始權(quán)值W,性能指標J,學習速率α,并且設(shè)定目標向量(理想幅頻響應Hg(ωk));
(2)對k=1,2,…,L做第(3)~(8)步驟;
(3)計算誤差E(k),使用權(quán)值修正公式:W=W+αE(k)C(Ωk)修正權(quán)值;
(4)滿足性能指標J轉(zhuǎn)步驟(5),否則轉(zhuǎn)步驟(3);
(5)由步驟(4)產(chǎn)生的W得出新解S';
(6)以濾波器的最小阻帶衰減為評價函數(shù),計算△t,其中△t=C(S)-C(S);
(7)若△t>0,則接受S'作為新的當前解,否則以概率exp(-△t/T)接受S'作為新的當前解;
(8)如果滿足終止條件,則輸出當前解作為最優(yōu)解,終止條件通常取為連續(xù)若干個新解都沒有被接受;
(9)減小T,轉(zhuǎn)步驟(2)。當T→0時,終止算法。
評論