平成 23 年度創成シミュレーション工学専攻修士論文梗概集計算システム分野パルスニューラルネットワークによる教師なし学習手法の FPGAへの実装に関する研究学籍番号 22413582 氏名 ZHENG DONG 指導教員名 1 はじめに岩田彰教授又，ニューラルネットワークに対する学習法則は現代社会では，様々な先進な技術が活用され，人々多数提案されているが，ネットワークの規模が変更により良い生活を提供している．それらの技術の中されても同じ制御ニューロンを用いることが可能なで一つとしては，ニューラルネットワークである．ので，本研究は競合学習法則[4]を用いることにした．パルスニューロンモデルを用いて構築したニューラそれから，SOM[5]を用いて教師なしニューラルネルネットワークは，パルスニューラルネットワークットワークを構築した．既存の 3 つの勝者決め方法といい，入出力に0または1のみのパルス信号を用いと 2 つの学習手法を紹介した．ニューロンの内部膜ているため計算量を減らすことができることが利点電位と閾値を比較で勝者決定手法に組み合わせの学である．このパルスニューロンモデルを用いてさま習手法では，新しい学習手法を 2 つ提案した．ざまな研究開発が行われた[1]．提案一定数シフトによる学習手法 (1) 2 背景と目的ニューラルネットワークとは，脳機能に見られる FPGA への実装を考え，計算を簡略化した手法を提いくつかの特性を計算機上のシミュレーションによ案する．提案する学習手法について結合重みの更新って表現することを目指した数学モデルである[2]．式を式(1)に示す．図２の様に重みベクトルを入力ベ FPGA（Field-Programmable Gate Array）とは，製クトルに近づける．造後に設計者が構成を設定できる集積回路であり，プログラマブルロジックデバイスの一種である[3]．本研究の目的は，パルスニューロンモデルを用いたパルスニューラルネットワークに対し，ハードウェア実装に適した教師なし学習手法に関するアルゴリズムを検討し，学習機能を持つパルスニューラルネットワークを FPGA へ実装することである． 3 方法本研究では，固定小数点数による定数パルスニュ図２定数シフトによる学習手法ーロンモデルを用いて研究した．図１にパルスニュ提案二単純加減算による学習手法ーロンモデルの例を示した．この方法では，結合重みベクトルや入力ベクトルをベクトルとしてではなく単純な数列として扱う．本手法による結合重みの更新式を式(2)に示す． (2) 図１パルスニューロンモデル平成 23 年度創成シミュレーション工学専攻修士論文梗概集計算システム分野る学習手法や単純加減算による学習手法は式を簡単 4 実験実験では，式(3)で学習させる手法を比較用として，提案した2つの手法との比較実験を行った．化したためハードウェアへの実装が容易であるという利点が考えられる．そこで定数シフトによる学習 (3) 手法を用いた教師なし学習手法によるパルスニューラルネットワークをFPGAへ実装し実験を行う．実験手法では，パルスニューロンモデルによる 10x10個のSOMを用いる．入力には画像の各画素値で 5 ハードウェアへの実装あるRGB24ビットの値をパルス列に変換したものを実験では，まずFPGAに実装した際にどの程度のロ用いる．元画像の全ピクセルを順にパルスニューラジックセルを使用するのかを検証する．実装した提ルネットワークに入力していき，学習を行う．学習案手法よるパルスニューラルネットワークは入力検終了後，認識過程として再度各ピクセルを入力し，査ユニット，多発火及び無発火検出ユニット，競合 100個のニューロンの出力うち勝者となったニュー学習ニューロン群の三つのユニットから成る．但しロンの出力で各ピクセルの色を量子化し画像を生成実装の上では競合学習ニューロンは 4×4=16個とする．する．結果によって，一つの競合学習ニューロンでは，約1％のリソース消費量があることがわかった． 6 まとめ本研究では，パルスニューラルネットワークによる教師なし学習手法のFPGAへの実装に関する研究を行図３原図図４比較用結果った．まず，FPGAへの実装のために簡略化したニューラルネットワークの学習アルゴリズムを二つ提案した．定数シフトによる学習手法，単純加減算による学習手法は比較手法より約1/4の計算時間で計算できた．誤差値は各手法ともおおよそ変わらないため，計算時間を短縮した学習手法でも同じ量子化能図５提案一結果図６提案二結果力があることがわかった．また実装に適している手結果は図３～図６に示した．所用時間とピクセルあたりの誤差値は表１に示した．誤差値の計算は式法とパラメータを採用してFPGAへ実装し，消費するハードウェアリソースについて検証した． (4)の通りである． 7 参考文献 [1] 内海嘉宏岩佐要 Mauricio Kugler 黒柳奨岩田彰誤差値＝ (4) 表１図３処理の結果画像１処理時間（s）誤差値比較用提案一「聴覚障害者のためのパルスニューラルネットワークを用いた音源識別システム」 IEICE technical report. ニューロコンピューティング 108(480), 7-12, 2009. 提案二 [2] ウイキペディア「ニューラルネットワーク」 3722 770 843 http://ja.wikipedia.org/wiki/ニューラルネットワーク 142 192 180 [3] Wikipedia 「FPGA」http://ja.wikipedia.org/wiki/FPGA 更に，10枚画像を対象として各学習手法によって [4] 黒柳奨平田浩一岩田彰「パルスニューラルネット学習した．結果から，定数シフトによる学習手法やワークのための競合学習手法」電子情報通信学会技術研究単純加減算による学習手法は内積値による学習手法報告. NC, NeuronComputing 101(737), 113-120, 2002. とほぼ同等の量子化能力があり，かつ計算時間が約 [5] Teuvo Kohonen 徳高平蔵「自己組織化マップ」シ 1/4にできることがわかった．加えて定数シフトによュプリンガーフェアラーク東京, 2005.