電子情報通信学会総合大会講演要旨
AI-3-3
事前学習とその周辺
前田新一(京大)
近年、深層ニューラルネットワーク(深層NN)を用いた手法が様々なベンチマークテストやコンペティションを席巻している。事前学習は、Hintonらが2006年にScienceに発表した論文で提唱した深層NNのパラメータを初期化するための手法であり、この論文をきっかけに深層NNの研究が活発化した経緯がある。ただし、必ずしも事前学習を用いずとも良好な成績が得られることがわかり、事前学習の効果に対して様々な議論がなされてきた。最近では、事前学習で用いられる教師なし学習と教師あり学習を同時に併用する新しい手法が提案されている。本発表では、事前学習にまつわるこれらの研究の動向について解説する。