- 相關推薦
基于神經網絡ZISC的模式識別系統
摘要：首先介紹人工神經網絡ANN實現技術的歷史、現狀和發展，著重分析RBF網絡的原理及其建立在超大規模集成電路基礎上的硬件神經網絡的設計方法。然后，介紹一種新的硬件神經網絡技術ZISC的工作原理和應用。最后，以ZISC036芯片為例，實現一個模式識別系統。引言
當前對人工神經網絡ANN（Artificial Neutron Network）的研究熱潮源自Hopfield J.[1]和McclellandJ.等人于20世紀80年代發表的論文[2],[3]。Hopfield提出了激活函數為非線性的反饋網絡，并將其成功地運用于組合優化問題；Mcclelland和Rumelhart用多層前饋網的反向傳播學習算法（Back Propagation）成功地解決了感知器不能解決的"異或"問題及其它的識別問題。他們的突破打消了此前人們由于簡單線性神經網絡感知功能的有限而產生的，使ANN成為了新的研究熱點。之后，新的網絡結構和新的學習算法層出不窮，目前常見的都已達到幾十種。在這些神經網絡中，徑向基函數RBF（Radial Basic Fuction）網絡由于具有強大的矢量分類功能和快速的計算能力，在非線性函數逼近等方面，特別是模式識別領域，獲得了廣泛的應用，從而成為當前神經網絡研究中的一個熱點[4]。
模式識別是人工智能經常遇到的問題之一。其主要的應用領域包括手寫字符識別、自然語言理解、語音信號識別、生物測量以及圖像識別等領域。這些領域的共同特點都是通過對對象進行特征矢量抽取，再按事先由學習樣本建立的有代表性的識別字典，把特征矢量分別與字典中的標準矢量匹配，根據不同的距離來完成對象的分類。以識別手寫數字為例，字典中有由學習樣本建立的10個標準矢量（代表0～0），把從識別對象中抽取的特征矢量分別與這10個標準矢量匹配，矢量間距離最短的就說明別對象與這個標準矢量的分類最接近，進而識別出其表示的數字。
模式識別過程中，產生一個具有代表性的、穩定且有效的特征矢量分類匹配策略，是補償變形、提高識別率的有效途徑，如何確定分類器是識別系統成功的關鍵。可以說，模式識別的本質就是分類，就是把特片空間中一個特定的點（特征矢量）映射到一個適當的模式類別中。傳統的模式識別分類都是基于串行處理的匹配策略：首先由學習樣本建立識別基元（字、詞、音、像素）的標準矢量識別字典，取取的特征矢量順序與字典中的標準矢量計算區別得分；最后根據概率做出決策，輸出識別結果。當模式類別很大時，識別速度會下降得很快，而近年來，用RBF網絡解決這方面的問題得到了很好的效果。
理論模型要求發展神經網絡型計算機來實現，但迄今 為止，這方面的工作限于條件還主要集中在傳統計算機的軟件模擬實現上。大多數學者認為，要使人工神經網絡更快、更有效地解決更大規模的總是，關鍵在于其超大規模集成電路（V LSI）硬件的實現，即把神經元和連接制作在一塊芯片上（多為CMOS）構成ANN。正是因為上述的原因，其中神經網絡的VLSI設計方法近年來發展很快，硬件實現已成為ANN的一個重要分支[5],[6]。
以下介紹IBM的專利硬件RBF神經網絡芯片技術ZISC(Zero Instruction Set Computer），并給出用ZISC設計和實現的一種模式識別系統。
1 用VLSI設計硬件神經網絡的方法
神經網絡的IC實現是比較困難的，設計者必須把神經系統模型的特性反映到受半導體工藝和IC設計規則制約的電路中去。用VLSI設計硬件神經網絡的方法主要分為數字技術、模擬技術和數模混合技術等，下面分別作簡要介紹。
（1）用模擬技術實現硬件神經網絡
模擬神經芯片通過單元器件的物理性質來進行計算，因而可以獲得很高的速度。神經元的核函數計算功能一般由乘法器或運算放大器來完成，而連接權值大多以電壓形式存儲在電容上或是以電荷形式存儲在浮點門上。利用模擬神經芯片不僅可以制造多層前向感知器那樣的傳統結構，還能從形態上進行如硅視網膜這樣的生物仿真設計，從而更有效地模擬生物學功能。
在解決實時感知類的問題中，模擬神經芯片扮演著主要的角色。因為這些問題不要求精確的數學計算，而主要是對大量的信息流進行集合和并行處理，這方面低精度的模擬技術從硅片面積、速度和功耗來看具有相當大的優勢。但是模擬芯片的抗干擾性差，設計中需要考慮對環境因素變化引起的誤差進行補償，非常麻煩；它的另一個缺點是，制造一個突觸必須考慮權值存儲的復雜性，同時要求放大器在很寬的范圍內呈現線性[5],[6]。
（2）用數字技術實現硬件神經網絡
用高低電平來表示不同狀態的數字電路是信息工業中最常用的技術。數字神經芯片有非常成熟的生產工藝，它的權值一般存儲在RAM或EPROM等數字存儲器中，由乘法器和加法器實現神經元并行計算。對設計者來說，數字神經芯片可以以很高的計算精度（達到32位或者更高）實現神經元核函數。另外，用數字技術實現神經網絡時，通常可以采用標準單元庫或可編程門陣列直接進行電路設計，這樣可以大大減少設計時間[5],[6]。
數字神經芯片不僅具有容錯性好、易于硬件實現及高精度、高速度的優點。更重要的是有很多數字電路CAD的軟件可以作為設計工具使用。但要實現乘/加運算，需要大量的運算單元和存儲單元。因而對芯睡面積和功耗要求很高。為了適應大面積的數字電路的要求，現在很多數字神經芯片都采用了硅片集成技術(Wafer-Scale Integration)。
（3）用數模混合技術實現硬件神經網絡
出于上述種種考慮，許多研究人員提出并采用了各種數模混合神經芯片，具有數字及模擬工藝各息的優點而避免各自的缺點，運算速率高，芯片面積小，抗噪聲能力強且易于設計。典型的數模混合信號處理部分則全是模擬的。這種結構很容易與其它的數字系統接口以完成模塊化設計。近年來在各種數模混合神經芯片設計中，利用脈沖技術的數模混合神經芯片和利用光互連技術的光電混合神經網絡芯片得到了廣泛的關系，它們代表神經網絡未來發展的方向。
盡管數模混合神經芯片有種種優點，但它也存在著一些不足。比如，對于大多數數模混合神經芯片來說，訓練學習算法的實現往往需要一個附加的協處理器，這無疑會增加整個神經網絡系統的成本和復雜性[5],[6]。
2 RBF網絡原理和它的硬件實現
RBF網絡是一種有導師的三層前饋網絡。它最重要的特點是中間隱層神經元的基函數只對輸入剩激起局部反應，即只有當輸入落在輸入空間的 一個局部區域時，基函數才產生一個重要的非零響應；而在其它情況下基函數輸出很小（可近似為零）。網絡結構如圖1所示。
【基于神經網絡ZISC的模式識別系統】相關文章：
基于BP神經網絡的點狀地圖符號模式識別03-07
基于LMBP神經網絡的聲納圖像識別03-07
基于戰略控制的內部控制模式03-22
基于馬賽克圖形的人機識別系統的設計與分析03-13
基于粗集的神經網絡的項目風險評估02-27
基于神經網絡的車輛動力學分析11-22
基于GIS和神經網絡的超市選址方法研究11-22