電子情報通信学会ソサイエティ大会講演要旨
A-1-1
深層ニューラルネットワーク可視化方法の検討
○金寺 登(石川高専)
深層ニューラルネットワーク内部の処理を可視化する方法の一つとして,ニューラルネットワーク出力を入力で編微分した値の標準偏差が大きいときに,対応する入力が重要であると判定する方法を提案した。この編微分値は,通常のback propagationアルゴリズムと同様に導出可能である。シグモイド関数やsoftmax関数を用いたニューラルネットワークによるシミュレーション実験により,重要な入力を抽出できる可能性を示した。また,入力で編微分する代わりに途中のネットワーク出力で編微分した値の標準偏差が特に大きいユニットを調査すれば,ネットワーク中で重要な途中処理出力を特定できる。さらに,不要なネットワーク部分を削減し,メモリや計算量を削減可能である。